【ITニュース解説】Building CardOS: An AI-Powered Credit Pre-Approval System on Google Kubernetes Engine

CardOSは、AI技術を活用してクレジットカードの事前承認プロセスを革新的に改善するシステムである。従来のクレジットカードの申し込みは、処理に時間がかかり、審査基準が不透明で、顧客の個別のニーズに十分に応えられていないという課題があった。CardOSは、このような問題を解決し、顧客の実際の支出パターンを分析することで、個々に最適化されたクレジットオファーを瞬時に提供することを目指す。このシステムは、顧客の満足度を高めると同時に、銀行の収益性も確保できるように設計されている。CardOSは、Google Kubernetes Engine (GKE) というクラウド基盤上で全面的に構築されている。

CardOSの最も重要な特徴の一つは、リアルタイムでのインテリジェントな分析能力にある。一般的なクレジットスコアだけに依存するのではなく、銀行取引から得られる実際の支出パターンを詳細に分析する。例えば、食料品、ガソリン、公共料金などを定期的に支払う顧客と、高額な贅沢品を頻繁に購入する顧客とでは、リスクやニーズが異なることをシステムが理解し、その違いに基づいてクレジットの条件を調整する。

このシステムの核心には、6つの専門的なAIエージェントが連携して動作する仕組みがある。これらは、「リスクエージェント」がAI（Gemini AI）を使って信用度を評価し、「条件エージェント」が競争力のある金利や利用限度額を生成する。「特典エージェント」は、支出カテゴリに基づいてパーソナライズされたキャッシュバック特典を作成し、「チャレンジャーエージェント」は、提案されたクレジットプランが銀行にとって十分に利益を生むかを検証する。「裁定者エージェント」は、顧客の価値と銀行の経済性を総合的に考慮して最終的な決定を下し、「ポリシーエージェント」は、関連する法的文書を自動的に生成する。これに加えて、「MCPサーバー」が銀行のポリシーやコンプライアンスの枠組みを提供する。CardOSは、最初から企業規模での利用を想定して設計されており、包括的なエラー処理、賢いキャッシュ機能、再試行ロジック、そして99.9%という高い稼働信頼性を備えている。

CardOSがGKE上で構築された理由は、複数のAIエージェントが連携し、柔軟に規模を拡大できるプラットフォームが必要だったからである。GKEは、サービス間の連携を円滑にする「サービスディスカバリ」機能を提供し、複数のマイクロサービス間の通信をシームレスにする。また、「ロードバランシング」機能により、AIエージェントが大量のリクエストで処理しきれなくなるのを防ぎ、安定した稼働を維持する。さらに、「ゼロダウンタイムデプロイメント」機能により、サービスを停止することなく新しいAIモデルや機能の更新が可能になる。

システムアーキテクチャの深く掘り下げると、GKEのDeploymentリソースを使ってバックエンドサービスが複数稼働している。例えば、バックエンドサービスは3つのコピー（レプリカ）で並行して動作し、多くのユーザーからのリクエストに対応できるように設計されている。これは、特定のプログラム（Python 3.9のコンテナ）が8080番ポートで通信し、Gemini AIの利用に必要なAPIキーを安全に取得するように設定されていることを示す。

AIエージェントの連携は、複雑なパイプラインとして機能する。まず、すべてのエージェントが正常に動作しているかを確認するヘルスチェックが行われる。次に、ユーザーデータに基づいてリスク評価が実施され、ここで危険と判断されれば、申請は早い段階で却下される。リスクがない場合、金利条件の生成を担当するエージェントと、特典のパーソナライズを担当するエージェントが並行して動作する。これらの情報をもとに、チャレンジャーエージェントが提案を最適化し、銀行の収益性を評価する。最終的に、裁定者エージェントが顧客への価値と銀行の利益のバランスを考慮して最終決定を下す。もし承認されれば、ポリシーエージェントが法的文書を生成し、一連のプロセスが完了する。

CardOSのデプロイ戦略では、AIエージェントのプログラムコードをKubernetesのConfigMapという機能に直接記述するというユニークな方法が採用されている。通常、プログラムはDockerイメージにパッケージ化されるが、ConfigMapにコードを埋め込むことで、コードのバージョン管理が容易になり、Dockerイメージを作り直す手間なくエージェントのロジックを更新できる。これにより、設定の一元管理と迅速なデプロイが可能になるという利点がある。実際のデプロイは、GKEの強力な機能を活用したパイプラインによって自動化されている。コアとなるインフラストラクチャ、AIエージェント、そして公共アクセス設定が順序立ててデプロイされ、各コンポーネントの正常な起動が確認される。また、GKEのインテリジェントなロードバランシングはAIのワークロードにとって非常に重要だ。例えば、同じユーザーからのAI関連のリクエストが常に同じエージェントに送られるようにする「クライアントIPによるセッションアフィニティ」を設定することで、AIがユーザーの文脈を維持し、よりパーソナライズされた体験を提供できる。

AIを大規模に連携させる上では、いくつかの工夫が凝らされた。GoogleのGemini AIを7つの異なるエージェントに統合する際には、APIの利用制限、コスト最適化、システムの信頼性という課題に直面した。これに対し、システムはリクエストを効率的にキューイングすることでAPIの制限を遵守し、AIへの指示文（プロンプト）を工夫することでトークンの使用量を40%削減し、さらに、万が一Gemini APIが利用できない場合に備えて予備のメカニズムを設けることで、システムの可用性を確保した。

金融モデリングの複雑性も、このシステムを構築する上で重要な要素だった。提案されたクレジットが現実世界で銀行にとってどれだけ利益を生むかを計算するためには、高度な数学的モデルが必要となる。このモデルは、顧客の予想される月間支出、金利収入、年会費といった収益源と、キャッシュバック特典のコスト、貸し倒れによる損失、資金調達コスト、運営コストといった費用要素を詳細に計算する。これにより、銀行が定める最低限の投資収益率（例えば15%）を満たしているかを判断し、持続可能なビジネスモデルを構築できる。

CardOSの開発を通じて、いくつかの重要な知見と教訓が得られた。一つは、7つのAIエージェント間の複雑な依存関係と応答時間のばらつきを調整する「エージェントオーケストレーション」の難しさである。これに対して、ヘルスチェック、タイムアウト管理、部分的な機能低下を許容する「グレースフルデグラデーション」を備えた洗練されたオーケストレーターを構築することで解決した。GKEのサービスメッシュ機能が、エージェント間の通信を信頼性高く、監視しやすいものにした。二つ目は、ライブの銀行取引データを処理しながら、10秒未満という短い応答時間を維持する「リアルタイム金融データ処理」の課題である。これには、賢いキャッシュ、データベースへの直接アクセス、並列処理を組み合わせることで対応し、GKEのオートスケーリング機能が、取引量の急増に自動的に対応するのに役立った。三つ目は、「規制コンプライアンスの自動化」である。法的要件を満たすクレジット関連文書を自動生成するために、広範な法的テンプレートとGemini AIのカスタマイズ能力を持つ「ポリシーエージェント」を活用した。この際、APIキーなどの機密情報を安全に管理するためのGKEのシークレット管理機能が重要だった。

CardOSは、GKE Turns 10 Hackathonのために構築されたが、このプロジェクトを通じて、適切なプラットフォームがあれば、生産環境で稼働可能なAIシステムを短期間で構築できることが証明された。GKEは、インフラストラクチャ管理に時間を割くことなく、AIの革新に集中できる強固な基盤を提供したのである。