【ITニュース解説】The App Started Guarding Before the Invoice Arrived — an AI Cost-Cap Spend Guard in AIO Helper

システムエンジニアを目指す皆さんに、AIを活用したサービス開発における「コスト管理」の重要性とその具体的な実装例を解説する。この記事では、SEO分析SaaS（Software as a Service）である「AIO Helper」におけるAI API利用料のコスト超過防止と利用状況の追跡システム開発事例が語られている。

AIO Helperの開発者は、AI APIの月額利用料が設定上限（デフォルト50ドル）を超えないよう、処理を停止させる仕組みを導入した。AIへのリクエストが送られる前に予想コストを計算し、予算が不足していればAI呼び出しを停止する。AI呼び出しが成功した場合のみ、実際の利用状況が記録される設計だ。

AI APIの費用は利用量に応じて発生し、バグなどで処理が繰り返されると予期せず高額になるリスクがある。管理画面に費用を表示するだけでは手遅れになるため、「使う前に停止する」仕組みが必要とされた。

このシステムは二つの主要な目的を持つ。一つは、各サイトの月額予算内でAI利用を停止させること。もう一つは、利用したAIの費用を詳細に記録し、後から追跡できるようにすることだ。これにより、単に予算超過を防ぐだけでなく、どの機能がどれくらいの費用を使ったのかを把握し、利用方法の改善に役立てることを目指している。

AIの利用は、主にページ目標自動生成、タイトル・説明提案、一括提案という三つのテキスト生成機能で行われる。これらの機能はユーザーの作業時間を短縮するが、その裏でAI利用料が発生している。

費用を停止するタイミングは、AI APIへリクエストを送る「前」だ。APIサーバーはリクエストを受け取ると、使用するAIモデルと予測されるトークン数（AIが処理するテキストの単位）から費用を見積もる。この見積もりとデータベースに記録された現在の利用額を比較し、残予算が不足していればAI APIへの呼び出しを行わず、ユーザーには支払いが必要であることを示すエラー（HTTP 402 Payment Required）を返す。予算が十分な場合にのみAIを呼び出し、成功後に実際の費用を台帳に記録する。一度AI APIにリクエストを送ってしまえば費用は発生するため、呼び出し前の停止が極めて重要となる。

AI APIからはコスト情報が返されないため、AIO Helper内部で静的な料金表を使って費用を計算している。料金表にない未知のAIモデルが使われた場合、コストを0とすると予算上限をすり抜けてしまうため、意図的に高めの見積もり費用を適用することで、安全側に倒す設計思想が採用されている。

予算のチェックと利用記録は、データベースへの単一のINSERT文（新しいデータを追加する命令）で同時に行う工夫がされている。これは、チェックと記録の間に他の処理が割り込むことで予算超過が発生するリスクを減らすためだ。このSQL文は、現在の月間合計費用を計算するサブクエリ（SQL文の中に入れ子になった別のSQL文）を含み、それが上限内に収まっている場合にのみ新しい利用記録を挿入する仕組みを持つ。ただし、複数のリクエストが同時に発生するような状況（同時実行）での厳密な予算保証については、実際のデータベース（PostgreSQL）での詳細な検証はまだ完全ではない。厳密な保証には、さらなるロック機構などの検討が必要になる可能性も指摘されている。

また、利用者が突然サービスが使えなくなる事態を避けるため、残予算が10%を下回った際に警告を発する機能も追加された。これは、利用者や管理者が事前に対応できる猶予を与えるためのもので、意図的に利用を停止する「予算0ドル」の状態とは区別して通知される。これにより、ユーザーは「利用停止中」なのか「予算が少ないので注意が必要」なのかを正しく理解し、適切な行動をとることができる。

この利用記録の台帳は、単なる停止機能に留まらない。どの機能がどれだけ費用を使ったか、日々の費用の増減、AIモデルや入力変更後のコスト変化などを把握するための貴重なデータとなる。これにより、感覚ではなく数値に基づいた具体的なコスト削減戦略を立てることが可能となる。

ただし、このシステムはまだ発展途上であることも明記されている。実際のPostgreSQLでの同時実行テストの不足、AI呼び出しが失敗した場合に費用が記録されない可能性、一部AI機能（検索ベクトル生成）が当初対象外だったこと、そしてデータベースが利用不能な場合の挙動が未検証であることなどが課題として挙げられている。これらは、コスト管理が段階的なプロセスであり、常に改善が必要な領域であることを示している。

この経験から得られた教訓は、他の開発プロジェクトにも役立つものだ。一つは、未知のコストは高額と見積もり、安全側に倒す設計をすること。二つ目は、データベースで集計と書き込みを同時に行っても、同時実行時の厳密な保証は別途検証し、必要ならより強固なロック機構などを検討すること。三つ目は、利用停止と低予算警告を明確に区別してユーザーに通知すること。そして四つ目は、請求書を待つのではなく、アプリ側で詳細な利用コストを記録し、それを基にコスト削減戦略を立てることである。これらの教訓は、AIサービス開発におけるコスト管理の重要性と、そのための実用的なアプローチを示している。