【ITニュース解説】Stop prompting. Start conversations with your agent.

現在のAIエージェントの利用方法について、多くのシステムエンジニアが直面している課題がある。それは、AIエージェントに何かを依頼するたびに、毎回長文のプロンプト（指示文）を記述しなければならないという状況だ。例えば、開発プロジェクトのコーディングスタイルやテストの実行ルール、あるいは過去の議論内容など、本来なら一度伝えればエージェントが記憶しておくべき情報を、新しいセッションを開始するたびにコピー＆ペーストで再説明している。これは、エージェントが以前のやり取りやプロジェクトの背景を「覚えていない」ために生じる。

このような「毎回同じ情報を提供する儀式」は、プロンプトテンプレートという形で保存され、少しずつ増えていく。一見すると、これによりエージェントへの指示が明確になり、効率が上がっているように思えるかもしれない。しかし、実際にはこれは「進歩」ではなく、根本的な問題の症状に過ぎない。なぜなら、プロンプトは本質的に「ワンショット」、つまり単発の指示であり、エージェントのセッションは「ステートレス」、つまり過去の状態を保持しないからだ。

この構造的な問題により、毎回新しいセッションを開くたびに、永続的に適用されるべきルール（コミットメッセージの書き方、重要なテストの種類、過去に試して却下されたアイデアなど）をゼロから再説明することになる。結果としてプロンプトはどんどん長くなり、最終的にはエージェントが全ての情報を読み飛ばしてしまったり、重要なタスクの指示が膨大なルールの中に埋もれてしまったりする。あるいは、セッションが途中で軌道から外れ、結局最初からやり直す羽目になることも少なくない。

この問題の解決策は、プロンプトの書き方を改善することではない。根本的な解決策は、プロンプトから二つの役割を完全に切り離すことだ。一つは「永続的なルール」であり、これらは一度記述すれば、ほぼ全てのメッセージと共に自動的にロードされ、再ペーストする必要がなくなる。もう一つは「ブリーフ（概要）」であり、これは現在の質問に関連する記憶システム内の情報から、プロンプトの前に自動的に作成される。

これらの仕組みが整えば、プロンプトには純粋に「タスクの指示」だけを記述すればよい。エージェントが回答する際には、その他の全ての情報がすでに準備されている。プロンプトは本来、エージェントの「記憶」の代わりをするものではなかった。他に記憶する仕組みがなかったから、その役割を担わざるを得なかっただけなのだ。

では、この「会話」のようなやり取りが具体的にどのようなものになるかを見てみよう。最も分かりやすい変化は、セッションの開始時だ。記憶システムを備えたエージェントでは、単に「continue（続き）」と入力するだけで、前回のセッションが中断した箇所からスムーズに作業を再開できる。前回の議事録を読み込んだり、プロジェクト計画の次のステップを提示したりと、まるで人間同士の会話のように自然に作業が進む。これまでの「コードベースの構造はこうです」とか「ここまでの進捗を要約します」といった、セッション開始時に毎回記述していた長い説明は一切不要になる。

二つ目の変化は、ルールや要件の変更を伝える場合だ。これまでのようにプロンプトテンプレートを編集するのではなく、「デプロイスクリプトは常に最初にマイグレーションチェックを実行すべきだ」といった一文を一度伝えるだけで、それが恒久的なルールとして記憶される。そのルールは一度伝えれば、その後再説明する必要はなくなる。プロンプトがそのルールに関わる場合、記憶システムから自動的にそのルールがエージェントに提供されるため、エージェントが「忘れる」ことを心配する必要はない。指示が開始される前に、必要な情報がブリーフとしてエージェントに渡されるのだ。

三つ目の変化は、トークン（AIの処理コスト）と時間、そして忍耐力の大幅な節約につながるものだ。それは、エージェントが過去に一度却下したアイデアを、何度も繰り返し提案してこなくなることだ。新しいアイデアの記録と共に、古いアイデアが却下された経緯や日付、理由が記憶システムに保存されるため、エージェントは過去の決定を繰り返し蒸し返すことがなくなる。これは、まるで過去の決定事項を人間同士で何度も議論し直す無駄がなくなるようなものだ。

ここでいう「会話」とは、単にチャット形式でやり取りするということだけを意味しない。それは、プロンプトが単なる「指示書」ではなくなり、記憶システムによって毎回自動的に最適な「ブリーフ（概要）」が作成されてエージェントに提供される状況を指している。

しかし、初めてこれらの長いプロンプトテンプレートを手放す際には、戸惑いも生じる。最初の数日間は、習慣で以前の長い前文を探してしまうだろう。何か足りないような「ふわふわした」感覚を覚えるかもしれない。そのため、「念のため」と古い前文をペーストしてしまうこともあるかもしれないが、その頃にはそれはすでに不要な「死んだ重荷」になっている。永続的なルールがその役割を担っているからだ。この習慣は、数回のセッションで自然となくなるだろう。

また、ルールは一度、意図的に明確に記述する必要がある。記憶システムは、利用者の心を読むわけではない。これまでのテンプレートに含まれていたコーディング規約、トーン、禁止事項などは、一つ一つ明確なルールとして記述する必要がある。このステップを飛ばして、自然に理解されるだろうと期待すると、初日はうまくいかず、間違った原因を責めてしまうことになるだろう。この作業には、まとまった時間を確保しておくべきだ。

ルールは放置しておくと、重複したり古くなったりして、整理されていない「ガラクタの引き出し」のようになってしまう危険性もある。例えば、ほとんど同じ内容のルールが複数存在したり、すでに完了したプロジェクトの古いルールが残っていたり、一つのルールが不必要に長くなってしまったりする。これを防ぐためには、ある程度の規律が必要だ。例えば、同じ内容を指す二つのルールがあれば統合するなど、定期的に整理する習慣が重要になる。

さらに、記憶はリアルタイムで即座に反映されるわけではない。会話の内容が「確定」した後に、それが記録として記憶システムに保存される。記憶システムは会話の全体をある程度のまとまりで読み込むため、一言一句すべてを即座に記憶するわけではない。そのため、あるセッションで発言した内容が、次のセッションで即座に「確定したルール」になっていると期待すると、予期せぬ結果に驚くことがある。この問題への対処法は、今すぐ重要であると伝えたいことは意図的に「覚えて」と指示すること。将来的に重要になるであろうことは、記憶システムの自動的な整理機能に任せることだ。どちらがどちらかを判断する能力が、記憶を持つエージェントと上手く対話する上での重要なスキルとなるだろう。

この新しいやり方に切り替える具体的な手順は以下の通りだ。まず、記憶システムを導入する。例えば、特定の製品名を例に挙げると「install brethof-brain」とエージェントに指示するだけで、必要なクライアントが導入され、設定が完了する。あとは、利用者がサインアップし、接続を承認するだけだ。

次に、これまで長いプロンプトに含まれていた固定的な情報を「永続的なルール」として一度、明示的に記述する。これは、これまで使っていたプロンプトテンプレートのフォルダを削除する前に、その内容を明確なルールに落とし込む作業だ。全てのプロジェクトに共通する一般的なルールと、特定のプロジェクトにのみ適用されるルールを分けて記述すると良いだろう。

そして、意識的に長いプロンプトのペーストをやめる。次のセッションを開始する際には、タスクの指示だけをエージェントに伝え、記憶システムがどのような情報を自動的に提供するかを確認してみる。おそらく、予想以上に多くの情報がすでに準備されていることに気づき、同時に、これまで明文化していなかったために不足している情報も明確になるだろう。

この過程で、もしあなたが何かをエージェントに再説明している自分に気づいたなら、それは単にプロンプトを書き直すべき箇所ではない。それは、「ルールとして記憶させるべきこと」である。その場で「これを覚えてほしい」と伝え、次の作業に進むべきだ。

結局のところ、これまでの長いプロンプトの山は、決して「プロンプト記述のスキル」の問題ではなかった。それは「記憶」の問題であり、それが「スキルの問題」という見せかけで現れていたに過ぎない。エージェントには一度だけ必要なことを教え、あとはその記憶を信頼して任せるべきなのだ。