一言で
RAG は、AI のモデルに答えを作らせるときに、先に外の資料やデータベースから関係のある情報を探し出し、その結果も踏まえて答えを作らせる仕組みです。
このページで分かること
- RAG が何を指すか(出典ごとの説明と、RAG と名付けた論文)
- 「探す・付け足す・作る」の流れ
- 何のために使われ、どんな限りや注意点が挙がっているか
先に知っておく言葉
- 大規模言語モデル:大量の文章で学習した、文章を読み書きするモデル(→ 別ページ「大規模言語モデル(LLM)とは」)
- コンテキストウィンドウ:モデルが一度に見られる量(→ 別ページ「コンテキストウィンドウ」)
- ハルシネーション:AI がもっともらしく誤ったことを言うこと(→ 別ページ「ハルシネーション」)
- 埋め込み:データを、似ているほど近くなる数の並びで表したもの(→ 別ページ「埋め込み(ベクトル)」)
- ファインチューニング:学習を終えたモデルを、目的に合わせて追加で学習させること(→ 別ページ「ファインチューニング」)
出典ごとの説明
- 文部科学省の生成AI のガイドライン(Ver.2.0、2024年12月26日):脚注で、決まったデータベースを検索して、その結果も考えに入れて出力を作る仕組み、と説明している
- Anthropic(Claude の会社)の用語集:情報の検索と言語モデルによる生成を組み合わせ、作る文章の正確さと関わりの深さを上げ、返事を根拠に結びつける技術、としている。外の知識の集まりや文書を、コンテキストウィンドウに入れてモデルに渡す。データは問いがモデルに送られたときに取り出されるが、取り出すのがモデル自身とは限らない(ツールの使用と検索の機能を与えれば、モデルが取り出すこともできる)、と書いている
- Google の機械学習の用語集:モデルの学習が終わったあとに取り出した知識の出どころに出力を結びつける(根拠づける)ことで、大規模言語モデルの出力の質を上げる技術、としている。信頼できる知識の集まりや文書から取り出した情報を、学習済みのモデルが使えるようにすることで、返事の正確さを上げる、と説明している
探す・付け足す・作る
Google の用語集は、化学のアプリを例に、次の順で説明しています(1と2には、用語集が retrieves・augments の英語を添えています)。
- 使う人の問いに関係するデータを探す
- 見つけたデータを問いに付け足す
- 付け足したデータにもとづいて要約を作るよう、モデルに指示する
Anthropic の用語集も、入力にもとづいてまず関係する情報を知識の集まりから取り出し、もとの問いと一緒にモデルに渡し、モデルはそれを手がかりに出力を作る、という順で書いています。
RAG と名付けた2020年の論文
Facebook AI Research・University College London・ニューヨーク大学の Lewis 氏らが2020年5月に arXiv に出した論文は、自分たちの方法を「retrieval-augmented generation(RAG)」と呼んでいます。論文は NeurIPS 2020 に採択されています。
- 背景:事前に学習した言語モデルは知識を中の数(パラメータ)に蓄えるが、知識を正確に引き出して扱う力には限りがあり、答えの根拠を示すことや知識を新しくすることは、まだ解けていない課題だとしている。序論では、こうしたモデルが「ハルシネーション」を起こしうることも挙げている
- 作り:学習済みの文章を作るモデル(BART)に、Wikipedia の文書を埋め込みにした索引と、そこから探す学習済みの仕組み(DPR)を組み合わせた。Wikipedia は2018年12月の版を100語ずつに区切り、2,100万の文書にしている
- 結果:3つの質問応答の課題で当時の最高の成績を出し、文章を作る課題では、比べた BART だけのモデルより具体的で、多様で、事実に沿った文章を作った、としている
- 知識の入れ替え:2016年と2018年の間に入れ替わった82人の各国の指導者について尋ねる試しでは、問いと同じ年の索引を使うと正答は70%(2016年)と68%(2018年)、年がずれた索引では12%(2018年の索引で2016年の指導者を尋ねた場合)と4%(2016年の索引で2018年の指導者を尋ねた場合)だった。論文は、索引を差し替えるだけで、学習し直さずに知識を新しくできることを示した、としている
なお、論文の RAG は、探す部分と作る部分を一緒に追加で学習させる(ファインチューニングする)作り方として示されています。Google の用語集は学習を終えたモデルに探した情報を渡す仕組みとして、Anthropic の用語集は探した情報をコンテキストウィンドウに入れてモデルに渡す仕組みとして説明しています。
何のために使うのか
- Google の用語集:使う理由としてよくあるのは、事実の正確さを上げる、学習していない知識を使わせる、使わせる知識を変える、出どころを示させる、の4つ
- Anthropic の用語集:学習したデータの外の情報を使えるようになり、覚えていることに頼る度合いが下がって、事実の正確さが上がる。新しい情報や、特定の分野の知識、出どころをはっきり示すことが要る仕事で特に役立ちうる、としている
- AI事業者ガイドライン(第1.2版、総務省・経済産業省):脚注で、RAG を使うことなどにより、ハルシネーションを抑えることや、出力の過程・根拠を見えやすくすることが期待されている、と書いている
- 文部科学省のガイドライン:誤った回答を抑える技術の例として挙げている。ただし同じ段落で、誤った出力を完全に防ぐのはモデルの性質上きわめて難しいとされている、とも書いている
限りと注意点として挙がっているもの
- Anthropic の用語集:うまく働くかどうかは、外の知識の集まりと、その場で取り出された知識の質と関わりの深さによる
- 論文:Wikipedia も、ほかのどの外の知識の出どころも、おそらく完全に事実どおりで偏りの無いものにはならない、としている
- AI事業者ガイドライン:RAG を使うと、生成AI の回答の収束(答えが似たものに寄っていくこと)が速まる可能性が高いため、たとえば内容の多様さや独創性が要る仕事では、使うのがふさわしくない場合もあることに気を付ける必要がある、としている
- NIST(米国の国立標準技術研究所)の NIST AI 600-1(2024年7月):外部から取り入れたものの管理に関わる対応の例として、ファインチューニングや RAG を組み込んだあとに、モデルのリスクを見直すことを挙げている
関連する言葉
- 大規模言語モデル・埋め込み(ベクトル)・コンテキストウィンドウ・ハルシネーション・ファインチューニング・エージェントとツールの使用(→ この欄の別ページ)
出典
- 文部科学省 初等中等教育局「初等中等教育段階における生成AIの利活用に関するガイドライン(Ver.2.0)」2024年12月26日 mext.go.jp ↗
- Anthropic「Glossary」の RAG (Retrieval augmented generation) の項 platform.claude.com ↗
- Google for Developers「Machine Learning Glossary」の retrieval-augmented generation (RAG) の項 developers.google.com ↗
- P. Lewis ほか「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」arXiv 2020年5月(NeurIPS 2020) arxiv.org ↗
- 総務省・経済産業省「AI事業者ガイドライン(第1.2版)」本編 2026年3月31日、第2部 C「共通の指針」の脚注27・脚注29 soumu.go.jp ↗
- NIST「NIST AI 600-1:Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」2024年7月 doi.org ↗
確認メモ:2026年10月1日に、上の6つの出典の原文を開いて確かめました。文部科学省のガイドラインは、生成AI のリスクと技術的な対策の段落とその脚注を読みました。Anthropic と Google の用語集は、RAG の項を読みました。論文は arXiv の第4版(2021年4月12日)の PDF から文字を取り出し、要旨・序論・作り・実験・知識の入れ替えの節・社会への影響の節を読みました。採択先は arXiv のページの注記で確かめました。AI事業者ガイドラインは、偽情報への対策と適正な利用の項に付いた脚注27・脚注29を、NIST の文書は、RAG に触れている対応の一覧の項を読みました。出典ごとの違いとして、論文の RAG は探す部分と作る部分を一緒に追加で学習させる作り方で、Google の用語集は学習を終えたモデルに探した情報を渡す仕組みとして、Anthropic の用語集は探した情報をコンテキストウィンドウに入れて渡す仕組みとして書いています。どれか1つを正しいとはしていません。論文の細かい計算の方法(2つの方式の違いなど)と、各課題の細かい点数は載せていません。AIログのニュースでは、この言葉はまだ出てきていないため、「ニュースでの出方」の節は置いていません。「パラメータ」の言い換えと、「収束」に添えた説明は、ふつうの意味を一言で添えたものです。国の文書は公共データ利用規約にもとづき、内容を言い換えて使っています(出典:文部科学省「初等中等教育段階における生成AIの利活用に関するガイドライン(Ver.2.0)」、総務省・経済産業省「AI事業者ガイドライン(第1.2版)」を加工して作成)。