【ITニュース解説】Lessons learned from building AI agents in the consumer space

最近のAI技術の急速な進化により、まるで魔法のようにAIが複雑なタスクをこなすという話を耳にする機会が増えたかもしれない。しかし、実際に消費者向けのAIアシスタントやコンパニオンといったAIエージェントを開発する現場では、見えにくい多くの困難に直面しているのが実情だ。開発者たちは、AIの能力を過大評価する風潮に疑問を持ちながらも、確かな解決策を日々模索している。長年のソフトウェア開発経験を持つエンジニアでさえ、AIシステム構築の難しさを痛感しているのだ。

AIエージェント開発において、まず重要なのは「処理の細分化（アトマイゼーション）」という考え方だ。大規模言語モデル（LLM）は、非常に複雑なプロンプトや複数の指示を一度に与えられると、意図しない方向に「漂流」し、正確でない結果を生み出すリスクが高まる。これは、LLMが次にくる言葉を確率的に予測することで文章を生成するため、プロンプトが長かったり、指示が曖昧だったりすると、無数の選択肢の中から誤った組み合わせを選んでしまう可能性が広がるためだ。この「確率空間」をできるだけ小さく圧縮し、LLMが迷う余地を減らすことが肝要となる。

具体的には、LLMには「言語の解析」など、本当に得意な部分に限定した短く具体的なプロンプトを与える。それ以外の論理的な判断や検証、データの取得といった部分は、通常のソフトウェアコードで処理するパイプラインを構築するのだ。例えば、請求メール処理の例では、まずLLMがメールからベンダー名、金額、日付などの情報を抽出する。次に、抽出した情報が定期購入なのか単発購入なのか、ソフトウェアが判断し、ユーザーの過去の支払い履歴と照合して検証する。さらに、ユーザーの過去のメール履歴から文調のメタデータを取得し、最後にLLMがそれらの情報とユーザーの文調を考慮して、解約メールの下書きを作成するといった流れだ。このように、小さな確実なステップを組み合わせることで、AIシステムの精度と信頼性は大きく向上する。

次に、「ハルシネーション（幻覚）」への対処が欠かせない。ハルシネーションとは、LLMが事実ではないもっともらしい情報を生成する現象のことだ。処理の細分化を行ったとしても、AIが「タスクを正常に実行した」といった虚偽の報告をすることは避けられない。こうした虚偽の報告は、システムにとって「サイレントキラー」となり得るため、これを前提とした設計が必要となる。つまり、AIが嘘をつくことを逆手にとって、それを検知する仕組みをエンジニアが作り込むのだ。

一つの解決策として、「モックツール」の活用がある。例えば、メール送信機能が設定されていない、あるいはユーザーから許可されていないにもかかわらず、LLMがメール送信を試みたと主張する場面を想像してみよう。LLMが実際にツールを使わなかったことを検知するのは実装が難しい場合がある。そこで、仮想の「SendEmail」ツールをプロンプトに仕込んでおく。LLMがこの仮想ツールを呼び出そうとした際、システムがその試みを捕捉し、実際にメールは送らずにユーザーに警告メッセージを表示するのだ。これにより、AIの虚偽の報告を検知し、ユーザーに適切な指示を与えることができる。

また、AIが特に苦手とする領域として、時間や空間といった、具体的な物理的経験を伴う言語タスクが挙げられる。例えば、カレンダーの二重予約だ。LLMは「予約済み」という概念を理解していても、一人の人間が物理的に同じ時間に二つの予定を入れることは不可能であるという現実的な制約を忘れがちだ。同様に、過去に受け取った情報の更新を、新しいメールを作成する際に反映し忘れるといった時間的な矛盾も発生しやすい。

このようなLLMの限界を補うためには、「泥臭い作業」、つまりLLMに頼りきりにならず、堅牢なソフトウェアコードを自ら書くことが極めて重要となる。LLMがまだ信頼できない部分を認識し、その周りに透明でテスト可能なコードを構築するのだ。

例えば、LLMがカレンダーの二重予約を試みた場合、それを検知するためのチェック機能をコードで実装する。二重予約が発覚したら、システムがLLMにエラーコードを返し、再試行を促すようにするのだ。また、LLMにツールを生成させるのではなく、必要なツールはエンジニアが直接コーディングし、メソッドや独自のエラーメッセージも明確に記述することで、プロセス全体を細かく制御できるようになる。これは時間がかかる作業だが、AIシステムの安定性と信頼性を確保するためには不可欠な取り組みである。さらに、ツール呼び出しの際に、引数や戻り値の「型シグネチャ」を定義することで、LLMが選択できる動作の範囲を明確にし、誤動作を防ぐ助けにもなる。

最後に、AIシステム開発において「新しいインターフェース」の設計が製品の成功を左右する重要な要素となる。会話型ソフトウェアは、従来の操作方法とは異なる、より直感的で自然なユーザー体験を提供する可能性を秘めている。過去のSiriやGoogle Assistantは、この方向性としては正しかったものの、当時の技術ではその可能性を十分に引き出すことができなかった。しかし、ここ数年でLLMの能力が飛躍的に向上したことで、状況は大きく変わった。

AIがどこで、どのような役割を担い、ユーザーがどのような状況でそれを使うのかを深く考える必要がある。例えば、人々が日常的にコミュニケーションをとるメッセージングプラットフォーム（iMessage、WhatsApp、Telegramなど）を通じて、テキストや音声でAIを提供するインターフェースは、ユーザーにとって非常に自然で優れた体験となるだろう。このような「デリバリー方法」を開発の初期段階から慎重に検討し、設計に組み込むことが重要だ。後からインターフェースを付け足そうとすると、結局製品全体を作り直す羽目になりかねないからだ。

このように、AIエージェントの開発は、最先端のAI技術を理解するだけでなく、その限界を認識し、それを補うための地道で堅実なソフトウェアエンジニアリングが不可欠なのである。