【ITニュース解説】Stateless agents cut long‑horizon token usage

大規模言語モデル、いわゆるLLMは、テキストを生成したり質問に答えたりする強力なAI技術であり、近年急速に進化している。これらのLLMを応用し、より複雑なタスクを自動で解決するために「LLMエージェント」というものが開発されている。これは、LLMが思考し、計画を立て、行動し、結果を評価して次のステップに進む、という一連のプロセスを繰り返すことで、人間のような推論と問題解決を行う仕組みだ。しかし、このLLMエージェントには大きな課題があった。それは、長期間にわたる複雑なタスク、例えば数千から数百万のステップが必要な研究や開発のような場面で、大量の計算リソースと費用を消費してしまうという問題である。

この課題の根本原因は、LLMエージェントの設計にある。従来の設計では、エージェントが過去に行ったすべての作業、つまり中間的な思考プロセスや結果、実行履歴といった「状態」を、毎回LLMに送るプロンプト（指示文）の中に含めていた。LLMは与えられたプロンプトの内容に基づいて次の行動を決定するため、過去の履歴を把握するには毎回プロンプトにその情報を盛り込む必要があったのだ。タスクが進行するにつれて履歴はどんどん長くなり、その結果、プロンプトも肥大化していく。この巨大化したプロンプトをLLMに毎回読み込ませることは、重複した情報処理を発生させ、膨大な「トークン」を消費する原因となっていた。「トークン」とは、LLMがテキストを処理する際の最小単位のようなもので、単語や記号の一部に分割されたデータのことだ。LLMの利用費用は、このトークンの消費量に比例するため、プロンプトが肥大化すればするほど、コストは際限なく上昇し、現実的な利用が難しくなっていたのだ。そのため、これまでのLLMエージェントの性能評価は、トークン消費が問題にならないような、比較的短期間のタスクに限定されていた。

この状況を根本的に変える可能性を秘めているのが、「Stateless Language Agents（SLA）」、つまり「ステートレス言語エージェント」という新しいアプローチだ。SLAの核心は、「ステートレス」、つまり「状態を持たない」という点にある。これは、エージェントが過去のすべての履歴や中間結果といった「持続的な状態」を、LLM自体の内部や、LLMへのプロンプトの中に直接保持しない、という意味だ。

SLAでは、これらの履歴や中間結果は「ハーネス」と呼ばれる外部のシステムに保存される。ハーネスは、いわばエージェントの外部記憶装置であり、過去の実験データ、候補となる解決策、それらの評価結果などを一元的に管理する。そして、各エージェント（ワーカー）が次のステップに進む必要があるとき、ハーネスは、そのワーカーにとってその時点でもっとも必要とされる、ごく簡潔な情報だけを抽出し、ワーカーに提供する。これにより、LLMに毎回送られるプロンプトは、最小限の情報に抑えられ、肥大化することがない。結果として、LLMは効率的に動作し、トークンの消費量を大幅に削減できるのだ。

実際にSLAは、従来の最高性能を達成しながらも、トークン使用量を84%以上削減することに成功したと報告されている。この効率化は、ソフトウェアエンジニアリングにおけるコード生成、システムカーネルの最適化、新しいアルゴリズム設計といった、複雑で多段階の思考が必要なタスクにおいて確認されている。この大幅なトークン削減は、より長期間にわたる、これまで不可能とされてきたような大規模な自動研究を、現実的なコストで実施できるようになることを意味する。

SLAのシステム構成には、「アドバイザー」という調整役も存在する。アドバイザーは、ハーネスに保存されている要約された情報を読み取り、その情報に基づいて、各ワーカーエージェントに対して具体的な次の実験や作業の指示を出す。このアドバイザー自体のトークン消費は非常に少なく、全体の0.6%未満しか使わない。これは、ほとんどの計算リソースが実際の推論や問題解決に費やされ、管理や調整のためのオーバーヘッドが極めて小さいことを示している。

もちろん、このSLAのアプローチにもまだ限界と課題は存在する。SLAはハーネスが提供する情報の正確性に大きく依存している。もしハーネスが履歴を要約する際に重要な情報や微妙なニュアンスを見落としてしまうと、ワーカーエージェントはたとえトークンが節約できたとしても、最適な解決策から遠ざかってしまう可能性がある。また、これまでのSLAの評価は、明確な候補と結果の構造を持つ、比較的定義された3つの専門領域に限定されている。例えば、明確なゴールや中間評価基準が設定しにくい、より非構造化された研究分野において、SLAが同様の効率化と性能向上を実現できるかは、今後の研究で明らかにする必要がある。

しかし、これらの課題を考慮しても、SLAが示す方向性は非常に有望だ。将来の研究開発のパイプラインは、永続的な状態をLLMから外部化し、ハーネスのようなシステムに履歴管理を一任することで、数十億ものトークンを消費するような超長期間のベンチマークも、現実的なコストで実施できるようになるだろう。このパラダイムシフトは、現在「短期間予算」で評価されている多くのLLMエージェントの研究結果を陳腐化させ、費用対効果の高い自動研究の新しい標準を打ち立てることになるかもしれない。SLAは、LLMエージェントがより広範で複雑な現実世界の課題を解決するための、重要な一歩となるだろう。