【ITニュース解説】Context engineering: What, why and how to engineer context

プロンプトエンジニアリングがAIシステムから最大限の能力を引き出すための重要なスキルとして注目されてきた。しかし、AIモデルが一度に処理できる情報の量、いわゆる「コンテキストウィンドウ」が拡大するにつれて、新たに「コンテキストエンジニアリング」という分野が台頭してきた。これは、AIモデルの性能が向上し、ほとんどのタスクにおいてモデル自体の能力は十分になったにもかかわらず、エージェント（AIを搭載した自動処理システム）が期待通りに機能しないという問題意識から生まれている。この問題の原因は、モデルの能力不足ではなく、エージェントに「適切なコンテキスト」が提供されていないことにあると考えられている。つまり、ボトルネックがモデルの性能そのものから、システム設計の側へと移行しているのだ。

コンテキストエンジニアリングとは、大規模言語モデル（LLM）に適切なコンテキストを供給するためのシステムを設計することである。これは、複雑なワークフローの中でLLMが特定のステップで成功するために、そのコンテキストウィンドウにまさに必要な情報だけを正確に満たす作業を指す。例えるなら、モデルが効果的に機能するための舞台を整えるようなものだ。モデルがタスクを実行するための完全な環境、すなわち背景情報、コミュニケーションのトーン、意図、これまでのやり取りの履歴、利用可能なツール、そしてモデルが逸脱しないためのガードレール（安全策）といった全てが含まれる。

LLMをコンピューターのオペレーティングシステム（OS）に例えるならば、モデルの処理能力をCPU、モデルが作業する一時的な記憶領域をRAMと考えることができる。OSがRAMに最適な情報を配置するように、コンテキストエンジニアリングは、コンテキストウィンドウに適切な量の適切な情報だけを充填する「科学」と捉えられる。これは、タスクを遂行するのに十分な情報を提供しつつ、モデルを混乱させたり、トークン（AIが処理する情報の最小単位で、費用にも直結する）のコストを無駄にしたりしないように、情報量を調整する技術である。

AIエージェントがコンテキストを得る方法は多岐にわたる。それは、プロンプト、過去の記憶、ガードレール、ユーザーの好みといった「指示」に加えて、関連情報を探し出すための「検索システム」からの情報、さらにはウェブ検索やAPIからのデータといった「ツール出力」から得られる情報も含まれる。これら全ての情報が組み合わさることで、モデルが現在のタスクをどのように認識するかが決まる。コンテキストエンジニアリングは、このモデルのタスク認識を精密にオーケストレーションすることであり、全てのトークンが意味を持ち、コンテキストのあらゆる部分が目的を果たすようにすることを目指す。

コンテキストウィンドウは、モデルが一度に見ることができる情報の総量であり、そのサイズには限りがある。この限られた空間をいかに効率的に使うか、つまりトークン最適化がいかに重要であるかについては、活発な議論が交わされている。コンテキストエンジニアリングは、このウィンドウを正しい情報で注意深く満たす技術である。モデルが利用できるコンテキストは膨大に存在する。例えば、詳細な調査を行うエージェントは、検索ツールを通じて何百ページものコンテンツを取得するかもしれないが、その全てをモデルのコンテキストウィンドウに収めることは不可能だ。情報が少なすぎれば、モデルは漠然とした答えを生成する可能性があり、逆に情報が多すぎると、コンテキストオーバーフロー（情報の過剰による処理能力の限界）が発生し、混乱や誤動作の原因となる。

コンテキストエンジニアリングが特に重要になるのは、複数のエージェントが連携して複雑なタスクを処理する「マルチエージェントシステム」においてである。一つの複雑なタスクが複数のサブエージェントに分割されて割り当てられるシナリオを考えてみよう。このとき、サブエージェントは全体のタスクコンテキストのごく一部と、その一部に関連するサブタスクだけを受け取ることが多い。タスクを分割したメインのエージェントは全体のコンテキストを把握しているが、サブエージェントはそうではない。この全体コンテキストの欠如が、サブエージェント間の誤解や、元のタスクからかけ離れた結果を生む原因となり得る。このような問題はマルチエージェントアーキテクチャで頻繁に発生し、エージェント間の直接的なコミュニケーションで解決を試みる研究も進んでいるが、まだ初期段階にある。そのため、現状ではタスクがマルチエージェントで並行処理可能であるかを確認し、適切なコンテキスト管理を行うことが不可欠となる。

この問題に対処する一つの方法として「コンテキスト圧縮」がある。エージェント間のやり取りは何百ものターンに及び、大量のトークンを消費するツール呼び出しを伴うことがあるため、コンテキストオーバーフローを引き起こしやすい。コンテキスト圧縮は、各ターンで「高価値なトークン」だけを転送するようにコンテキストを要約し、情報の過剰を防ぐ。これもまたコンテキストエンジニアリングの重要な手法の一つだ。AIエージェントを構築するための一般的な原則はまだ確立されておらず、多くの実験が進行中である。

プロンプトは、特定のタスクを達成するための一連のやり取りの中の「指示」の一部に過ぎない。プロンプトエンジニアリングは、望ましい応答を引き出すための特定のフレーズ、例、またはフォーマットに焦点を当てる。それに対し、コンテキストエンジニアリングは、より体系的なアプローチを必要とする。具体的には、データベース設計、情報アーキテクチャ、検索システム、ナレッジマネジメントといった分野の知識が求められる。

プロンプトが「この段落をスペイン語に翻訳して」というように、何を質問するかであるのに対し、コンテキストは、その質問をしたときにモデルが「何を知っているか」である。例えば、「ユーザーは南アジア人で、以前の会話はスペイン訪問についてだった」というような情報がコンテキストにあたる。プロンプトは氷山の一角であり、コンテキストはその水面下にある、全てを可能にする基盤である。

コンテキストエンジニアリングは、はるかに広範な活動を含む。本番環境で何ヶ月も稼働するエージェントに対して最適なコンテキストを供給するためには、スケーラブルで厳格にテストされ、現実世界の運用環境で障害を起こさないような構造を設計する必要がある。プロンプトからコンテキストへの移行は、単なる言葉の変更ではなく、システム全体のアプローチの変革を意味する。

効果的なコンテキストを構築するためには、リアルタイムで何をコンテキストに含めるべきか、何を排除すべきか、何を次のステップに引き継ぐべきかについて判断を下さなければならない。検討すべき重要な問いには、現在の全体タスクは何であるか、モデルがどのような情報を必要としているか、以前のステップから何を覚えておくべきか、そして混乱を避けるために何を忘れるべきか、といったものがある。

コンテキストエンジニアリングはまだ登場したばかりの分野であり、最適な実践方法は進化の途上にある。しかし、これはオプションのスキルではなく、これからの強力なAIシステムがどのように機能していくかの核心をなす、不可欠な能力である。