【ITニュース解説】What is an AI agent cloud? A practical definition

AI agent cloudとは、サーバーそのものの新しい種類ではなく、サービス群の総称である。これは、小さなプログラムが特定のイベントを受け取り、何らかの処理を行い、その結果を出力する一連の仕組みを支えるプラットフォームを指す。このプラットフォームは、そのプログラムに安全な実行環境であるサンドボックス、永続的な識別情報であるID、そして他の様々なサービスと連携する機能を提供する。ここで言う「エージェント」が、まさにこの小さなプログラムのことであり、デプロイされる最小単位、必要に応じて数を増減させる（スケーリングする）単位、そして料金を計算する（課金する）単位となる。

多くのチームが直面する共通の問題は、AIを活用したボット、例えばメッセージキューを監視して文書を処理したり、質問に答えたりするボットを動かしたいものの、その背後にある複雑なインフラ（基盤となるシステム）の管理は避けたいという点だった。AI agent cloudは、この課題に対する解決策として生まれた。コンテナ、ネットワーク、キー管理といったインフラ管理の煩雑な側面を隠蔽し、シンプルにAIボットを動かせる実行環境を提供する。これが、AI agent cloudの核となる考え方である。

エージェントは、ある特定のルールに従って作られたコンテナイメージである。コンテナイメージとは、プログラムとその実行に必要なすべてのもの（コード、実行環境、システムツール、ライブラリなど）を一つのパッケージにまとめたもので、どこでも同じように動作することを保証する技術である。エージェントが従うルールは非常にシンプルで、一つの入り口（エントリポイント）を持ち、そこからイベントデータを受け取り、内部で処理を繰り返し実行し、最終的に結果を出力用の通路に書き出すという流れである。このコンテナイメージには、どのようなプログラムの実行ファイルでも、どのようなプログラミング言語の実行環境でも、どのようなAIモデルファイルでも自由に含めることができる。唯一の要件は、エージェントが素早く起動し、仕事がない間は待機状態を保ち、不要になったらすぐに停止できることだ。

AI agent cloudプラットフォームは、全てのエージェントに対して以下の重要な機能を提供する。まず、計算資源であるCPUの時間とメモリの割り当てが与えられる。これらは秒単位で計測され、実際に利用した分だけ課金される。プラットフォームは、イベントキューにどれくらいの処理待ちがあるかに応じて、エージェントのインスタンス数（実行されるエージェントの数）を自動的に増やしたり減らしたりする。次に、ストレージとして一時的なファイルシステムが用意される。これはエージェントが起動するたびに初期化されるため、一時的なデータ保存に利用できる。また、ログを保存するための永続的なボリュームも提供され、これはダッシュボードから内容を確認できる。ネットワークについては、エージェントは外部インターネットから完全に隔離されたプライベートなネットワーク環境（VPC）の中で動作する。プラットフォームは、このネットワークの唯一の入り口を通じてエージェントにイベントを配信する。認証の面では、エージェントが必要とするAPIキーや秘密情報を安全に保管するための「Vault」という仕組みが提供される。これらのキーは特定のエージェント専用に発行され、他のエージェントやプラットフォーム自体がアクセスすることはできない。そして監視のために、エージェントの動作に関する様々なデータ、例えば性能指標（メトリクス）、ログ、処理の追跡情報（トレース）が自動的に収集され、プラットフォームの監視システムに送られる。

エージェントをデプロイする際、システムエンジニアが通常行うような複雑な設定ファイル（例えば、TerraformやKubernetesマニフェストなど）を書く必要はない。開発者は、作成したコンテナイメージをイメージの保管場所（レジストリ）にアップロードし、そのエージェントの名前を宣言するだけで良い。するとプラットフォームが、そのエージェント専用の実行環境を自動的に作成する。その後、プラットフォームは開発者が指定したイベントソース（例えば、メッセージキュー、ウェブフック、あるいは定時実行のトリガーなど）を監視し、新しいイベントが到着するとエージェントを起動して処理を開始する。

プラットフォームの実行環境は、独自のインフラストラクチャの上に構築された軽量なオーケストレーションレイヤーによって動いている。オーケストレーションとは、複数のコンポーネントやサービスが連携して動作するように調整し、自動化する仕組みを指す。イベントが到着すると、実行環境は以下の手順でエージェントを動かす。まず、指定されたレジストリからエージェントのコンテナイメージをダウンロードし、その署名を検証して不正な改ざんがないか確認する。次に、CPU、メモリ、ネットワークアクセスを厳しく制限した安全な実行環境（サンドボックス）でコンテナを起動する。そして、受け取ったイベントのデータ（ペイロード）をコンテナの標準入力、または特定のファイルに注入してエージェントに渡す。コンテナが正常に動作しているか常に監視し、もしクラッシュした場合は自動的に再起動する。エージェントが処理を終えてコンテナから出力された結果は収集され、指定された次のチャネルに発行される。エージェントが一定時間アイドル状態になった場合、コンテナは一時停止され、他のエージェントがリソースを利用できるようになる。この実行環境は、単一のイベント処理が終了するまでの間のみ状態を保持するため、リソース使用量を比例して増やすことなく、数千ものエージェントをスケーリングできる。また、プラットフォームは頻繁に利用されるイメージの層（レイヤー）を小さなキャッシュとして保持しているため、次にエージェントが起動する際の時間を短縮できる。実際、ほとんどのエージェントでは平均して200ミリ秒未満という非常に短い時間で起動が可能である。

セキュリティはAI agent cloudにおいて最優先事項とされている。全てのエージェントは、他のエージェントや基盤となるホストシステムから完全に隔離された専用のサンドボックス内で実行される。このサンドボックスは、Linuxの「名前空間（namespaces）」や「seccompフィルター」といった技術を使って実装されており、エージェントが実行できるシステム操作（システムコール）を厳しく制限する。さらにプラットフォームは、エージェントが明示的に利用を宣言したサービスへの通信のみを許可する厳格なネットワークポリシーを適用している。APIキーなどの重要な秘密情報の所有権は、実行環境に組み込まれた「Vault」というシステムによって管理される。エージェントを作成する際に、必要なAPIキーを設定できる。プラットフォームはこれらのキーを専用のキー管理サービスに保存し、保存時には暗号化する。そして、エージェントのプロセスが実行される際に、そのエージェントが必要とするキーのみにアクセスできるようにする。キーはログに記録されたり、コンテナイメージ内部に埋め込まれたりすることは決してない。万が一、あるエージェントがセキュリティ侵害を受けた場合でも、攻撃者がアクセスできるのはそのエージェントに紐づけられたキーのみであり、他のエージェントのキーやプラットフォーム自体のキーには影響が及ばないようになっている。

AI agent cloudプラットフォームは、エージェントが実際に仕事をする時だけ起動するため、課金モデルは秒単位となる。計算資源の利用は1秒単位で計測され、エージェントがアイドル状態で何も処理していない時間には料金が発生しない。これは従来の仮想マシン（VM）モデルとは大きく異なる点である。従来のVMでは、インスタンスを起動している限り、その利用状況にかかわらず料金を支払い続ける必要があった。プラットフォームはまた、クラスター全体での自動スケーリングもサポートしている。もし多くのエージェントが同じメッセージキューを監視している場合、プラットフォームはキューからメッセージを消費する追加のインスタンスを自動的に立ち上げ、負荷を分散させることができる。このスケーリングの判断は、イベントキューに溜まっているメッセージの量、処理の遅延に関する目標、そして現在アクティブなエージェントのインスタンス数に基づいて行われる。これらのメトリクスはダッシュボードで確認できるため、現在稼働しているインスタンスの数や、各イベントの処理にかかる時間などを把握することが可能である。プラットフォームには無料利用枠も用意されており、小規模な計算資源とストレージが提供される。これは、新しいアイデアを試したり、エージェントの動作を実験したりするのに最適である。無料枠では、同時に実行できるエージェントのインスタンス数やイベントの量に制限がある。