【ITニュース解説】The RAG Obituary: Killed by agents, buried by context windows

大規模言語モデル（LLM）は近年目覚ましい進化を遂げているが、その利用にはいくつかの課題が存在する。一つは、LLMが学習した時点までの情報しか知らないため、最新の出来事や専門的な知識に対応できないこと。もう一つは、時に事実とは異なる内容をあたかも真実のように生成してしまう「ハルシネーション（幻覚）」と呼ばれる現象だ。これらの課題を克服し、より正確で信頼性の高い情報をLLMに生成させるために開発され、広く利用されてきたのが、検索拡張生成、通称RAG（Retrieval-Augmented Generation）という技術だった。

RAGの仕組みは、ユーザーからの質問や指示に対し、まず外部にあるデータベースや文書リポジトリから関連する情報を「検索」して取り出すことから始まる。この検索で得られたテキスト情報が、まるで参考資料のようにLLMに与えられる。LLMはその参考情報に基づいて回答を「生成」するため、単に自身の学習データから推測するよりも、根拠に基づいた正確な情報を提示できるようになった。RAGは、企業内での情報検索システムや、特定の分野の専門知識を要するチャットボットなど、多くの応用例でLLMの能力を大きく拡張する重要な役割を果たしてきた。LLMが持つ既存の知識と、外部からリアルタイムに取得する最新かつ正確な情報を組み合わせることで、より実用的なAIシステムを構築することが可能になったのだ。

しかし、近年、RAGの存在意義や実装方法に大きな変化をもたらす二つの技術的な進化が起こっている。その一つが「AIエージェント」の登場だ。AIエージェントとは、LLMを中核に据えつつ、特定の目標を達成するために、計画を立て、実行し、結果を評価して修正する、といった一連の自律的な行動を可能にするシステムのことだ。エージェントは、まるで人間のように、目の前の課題を解決するために適切なツール（例えば、ウェブ検索ツール、データベース操作ツール、コード実行ツールなど）を自ら判断して利用する能力を持つ。

RAGが、外部から情報を検索してLLMに与えるという、比較的受動的な役割を担っていたのに対し、エージェントはLLMが能動的に情報を探し、活用する能力を劇的に高める。例えば、エージェントはユーザーからの質問に対し、まずそれを解決するためのステップを計画する。例えば、「この質問に答えるには、まず社内データベースを検索し、次に公開されている最新情報をウェブで収集し、最後にそれらの情報をまとめて回答を作成しよう」といった具合だ。そして、それぞれのステップで適切なツールを自律的に選択し、実行する。この一連のプロセスの中には、RAGが行っていた「外部からの情報検索」という機能が自然と含まれてくる。つまり、エージェントはRAGの機能をより広範なタスク実行の一部として取り込み、LLMが単なるテキスト生成を超えて、より複雑な問題を解決できるようにする、より上位の概念として機能するのだ。

もう一つの大きな変化は、LLMが一度に処理できる情報量、すなわち「コンテキストウィンドウ」の劇的な拡大である。コンテキストウィンドウとは、LLMが推論や生成を行う際に、入力として受け取ることができるテキストの最大長を指す。初期のLLMは、ごく短い文章しか一度に処理できなかったため、大量の情報から質問に関連する部分を「検索」して、そのごく一部をLLMに与えるRAGのような仕組みが不可欠だった。

しかし、現在の最新LLMは、数万トークン、あるいは数十万トークンといった非常に長いコンテキストウィンドウを持つようになった。これは、LLMが一度に分厚い本や膨大な量のドキュメント全体を記憶しながら、その中の情報に基づいて回答を生成できるようになったようなものだ。このコンテキストウィンドウの拡大は、RAGが果たしてきた役割に直接的な影響を与える。RAGは外部から関連情報を検索し、それをプロンプトとしてLLMに与えることで、LLMの知識を補完していた。しかし、コンテキストウィンドウが十分に長ければ、ユーザーは大量の関連ドキュメントやデータベースから抽出した結果を、直接プロンプトに含めてLLMに与えることが可能になる。LLMは与えられた大量のコンテキストの中から、質問に関連する部分を「自力で」見つけ出し、それに基づいて回答を生成できる。これは、外部の検索ツールを使うことなく、LLM自身が大量の入力情報の中から必要なものを「自己検索」するような振る舞いとも言える。

これらの技術進化によって、RAGが「死んだ」あるいは「追悼された」と表現されるのは、RAGという技術が完全に不要になったという意味ではない。むしろ、RAGが提供していた価値や機能が、エージェントというより包括的なフレームワークの中に統合されたり、あるいは長大なコンテキストウィンドウを持つLLMの内部機能として吸収されたりすることで、独立した技術としてのRAGの存在感が薄れてきている、という見方ができる。かつては、LLMの制約を補うための専用の「道具」としてRAGが必要だった。しかし、LLM自身がより賢く、より多くの情報を一度に扱えるようになり、さらに外部ツールを自律的に使いこなす「エージェント」という形で進化を遂げたことで、RAGが単体で解決していた問題は、より高度で統合的なシステムの一部として解決されるようになったのだ。

システムエンジニアを目指す者にとって、この技術動向を理解することは非常に重要だ。RAGの基本的な概念は、たとえその実装形態が変化しても、LLMに外部情報を与えて活用するという「考え方」自体は引き続き重要となる。そして、エージェントが自律的に様々なツールを使いこなし、複雑なタスクをこなすようになる未来では、システム設計者は単なるLLMの呼び出しだけでなく、エージェントにどのようなツールを与え、どのような目標を設定するか、そしてどのように行動を監視・制御するかをより深く考える必要がある。また、長いコンテキストウィンドウを最大限に活用し、効率的に情報をプロンプトに詰め込むための知識や工夫も求められるだろう。これらの技術がどのように統合され、進化していくのかを常に追いかけることが、これからのAIシステムを構築する上で不可欠な知識となる。