【ITニュース解説】Give a LangChain agent a spending limit in 10 lines (Pink, test money)

現代のIT技術において、AIエージェントは私たちの生活やビジネスを大きく変える可能性を秘めている。特に、LangChainのようなフレームワークを利用することで、AIはインターネット検索や特定のツールを自律的に使いこなし、まるで人間のように複雑なタスクをこなせるようになる。例えば、AIに「会社の消耗品を補充して」と指示すれば、自分で適切な製品を検索し、購入手続きまで進めてくれる日が来るかもしれない。しかし、このような強力なAIエージェントが「お金を支払う」という非常に重要な機能を担う場合、そこには大きなリスクが潜んでいる。

通常、私たちはAIエージェントに「一度に$500以上は使わないでください」といった指示を出すことがある。これは「システムプロンプト」と呼ばれる、AIに対する初期設定やガイドラインのようなものだ。しかし、この指示はあくまでAIへの「提案」であり、絶対的な「制御」ではないという点が、今回のニュース記事が提起する核心的な問題である。AIは状況に応じて、この指示を忘れたり、誤解したり、あるいは無視したりする可能性があるのだ。

なぜシステムプロンプトだけでは不十分なのだろうか。AI、特に大規模言語モデル（LLM）は、与えられた情報をもとに最もらしい応答や行動を生成する。システムプロンプトもその情報の一つとして読み込まれるが、それはコードのように厳密に実行される命令ではない。モデルは会話の流れや、他のツールからの応答、さらにはベンダーからの請求書の文言など、あらゆる情報を総合的に判断する。そのため、会話が長くなったり、ツールからの情報が巧妙に提示されたりすると、AIはシステムプロンプトの制限を「見落として」しまうことがある。

さらに、AIは意図せず間違いを犯すことがある。これは「悪意」から来るものではなく、AIの学習モデルの特性によるものだ。例えば、AIが事実ではない情報を生成する「幻覚」を起こしたり、金額を示す記号を誤読したり、一度失敗した処理を「もっと大きな金額で再試行すれば成功するかもしれない」と判断してしまうことすらあり得る。もしAIとあなたの銀行口座の間に、AIが「覚えておくべき」とされた一文しかないとしたら、それは非常に危険な状態だと言える。

このような問題を解決するための根本的なアプローチは、支払いに関する制限やルールをAIモデルの「外側」に完全に移動させることだ。AIエージェントがどのような指示を受けていようと、すべての支払いリクエストを常に同じ方法で厳格に評価するシステムが必要となる。

ここで登場するのが、PinkWalletが提供する「Pink Agentic AI Payments」というサービスだ。このサービスは、AIエージェントが支払いリクエストを行う前に、企業の定める支払いルール（月ごとの予算、支払いを許可する相手のリスト、一定額以上の支払いに対する人間による承認）に照らして、そのリクエストを厳密にチェックする役割を果たす。AIエージェントはクレジットカード情報のような実際の支払い資格情報を直接持つことはなく、すべての支払い処理はPinkWalletのサービスを通じて行われる。

具体的には、LangChainエージェントはpink_request_paymentというツールを呼び出すことで、PinkWalletのサンドボックス（安全なテスト環境）に支払いリクエストを送る。このサンドボックスは、事前に設定されたルール（このエージェントが誰にいくらまで支払えるか、1回の取引の上限、月間の上限、人間による承認が必要な条件など）に基づいてリクエストを評価し、その結果（許可、ブロック、保留など）をエージェントに返す。このように、エージェントは「自分は何ができるのか」を外部システムに「尋ねる」ことで知るのであり、自分でルールを「覚えておく」ことに依存しないのだ。

LangChainエージェントがPinkWalletのサービスと連携する方法はシンプルだ。PinkToolkitは、pink_request_payment（支払いリクエスト）、pink_check_policy（支払いルールの確認）、pink_get_budget（予算の取得）、pink_check_payment_status（支払い状況の確認）といった複数のツールをLangChainの標準的なツール形式で提供する。これにより、LangChainと互換性のある任意のエージェントがこれらの支払い機能を安全に利用できる。

今回の記事では、この仕組みがどのように機能するかを3つの具体的なシナリオで示している。

1. 通常購入が許可される場合: AIエージェントがFigmaのサブスクリプション更新費用として$50の支払いを要求したケースだ。pink_check_policyツールでポリシーを確認したところ「既知のベンダーへの$1,000以下の支払い」として許可されることがわかった。続いてpink_request_paymentツールを呼び出すと、実際に支払いが許可され、支払いIDと仮想カード情報がエージェントに返された。エージェントは支払いIDを報告し、処理を続行する。

2. 予算超過でブロックされる場合: AIエージェントがFigmaの年間ライセンス料として$50,000の支払いを要求したケースだ。pink_check_policyツールで確認すると、「Design AIエージェントの月間予算が使い果たされている」という理由でブロックされることがすぐに判明した。エージェントはそれでも支払いリクエストを続けたが、pink_request_paymentツールからも同じ理由で「ブロック済み」という決定が返された。重要なのは、エージェントがブロックされた後、金額を小さくして再試行したりすることなく、ブロックされたことを報告して処理を停止した点だ。これは、外部からの厳格な制御がAIの誤動作を防いだことを示している。

3. 人間の承認を経て支払われる場合: AIエージェントがデザインシステム契約として$1,500の支払いを要求したケースだ。pink_check_policyツールで確認すると、「$1,000〜$5,000の範囲はCFO（最高財務責任者）の承認が必要」と返ってきた。pink_request_paymentツールを呼び出すと、支払いリクエストは「pending_human（人間の承認待ち）」という状態になり、承認者としてSarah Kim（CFO）の名前が示された。この段階ではまだ実際の支払いは行われていない。その後、社内のCFOがこの支払いを承認すると、エージェントがpink_check_payment_statusツールで状況を確認した際に「approved（承認済み）」という結果が返され、支払いが進行可能となる。これは、高額な取引に対して、システムの自動化と人間による最終的な確認を組み合わせることで、安全性を高める仕組みだ。

今回のデモンストレーションは、PinkWalletが提供するサンドボックス環境（テストマネーのみが使用され、実際の資金は動かない安全な環境）で行われている。これは、新しい技術を安全に試すための重要なステップだ。現在のプレビュー段階では、単一のエージェントと単一のワークスペースでの連携がテストされているが、将来的には複数のエージェント間の連携、様々な通貨への対応、保留が却下された場合の挙動なども検証されるだろう。また、デモで使われた予算や承認ルールは、サンドボックスのテンプレートから提供されているが、実際の運用では各企業が自社のポリシーに合わせて詳細なルールを定義することになる。

このように、AIエージェントの進化は非常にエキサイティングだが、特に金銭が関わるような重要なシステムにおいては、AIの限界を理解し、その外部で厳格な制御を行う仕組みが不可欠となる。今回のPink Agentic AI Paymentsは、まさにその安全なAIシステム構築に向けた具体的な一歩を示していると言える。AIの能力を最大限に引き出しつつ、同時にセキュリティと信頼性をいかに確保するか、という視点は今後ますます重要になる。