エージェンティック RAG は、AI エージェントが自分で検索を組み立て、読んだ結果から足りない資料を探し直しながら答えをまとめるやり方です。ふつうの RAG は、質問に近い資料を 1 回探して AI に渡し、その資料で答えます。エージェンティック RAG では、AI が質問を小さな問いに分けて問いごとに探し、結果を読んで次に何を探すかを決めます。Anthropic も 2025 年 6 月の記事で、自社の調べものの機能を、1 回で拾うふつうの RAG と比べ、何段も探す作りだと説明しています。
向いているのは、1 回の検索では材料がそろわない質問です。Microsoft の Azure AI Search の説明でも、いくつもの問いを含む質問や、前の会話を踏まえた質問を、この方式で扱う例に挙げています。
そのぶん、時間と費用は増えます。検索と読み直しを繰り返すので、AI が読む量（トークン）も増えるからです。同じ記事には、自社のデータでは、エージェントは通常のチャットのおよそ 4 倍のトークンを使うとあります。2024 年 12 月の別の記事では、まず単純な方法で足りるかを試すよう勧めています。1 回の検索で足りる質問は、ふつうの RAG で答えさせます。
どの資料を根拠にしたかを残すことも大切です。探し直すほど、答えのもとになった資料は増え、あとから人が確かめにくくなります。Anthropic の調べものの機能では、最後に引用を受け持つ AI が、主張ごとに出典を付けています。社内で使うなら、答えと一緒に読んだ資料の名前と場所を出させ、人が元の資料と照らせるようにします（ファクトチェック）。AI が自分で探しに行くので、探せる範囲も、頼む人が見てよい資料に絞っておきます（最小権限）。