【ITニュース解説】How to Run Long Local AI API Requests in Off Grid AI in 2026 Without Waiting for One HTTP Response

現代のITシステムにおいて、人工知能（AI）の利用は急速に広がっている。特に、大規模なAIモデルによる処理は、テキスト生成や画像解析など、多岐にわたるタスクで活用されているが、その処理には長い時間を要することが少なくない。従来のウェブ通信で一般的なHTTPリクエストは、通常、リクエストを送信してからサーバーからの応答を受け取るまで、接続を維持し続ける「同期的な」仕組みを持つ。しかし、AI処理のように完了まで数分、あるいはそれ以上の時間がかかる場合、この同期的な接続維持はアプリケーションの動作を停止させたり、ネットワークのタイムアウトを引き起こしたりする問題がある。

ここで、Off Grid AI Desktop（OGAD）というツールが提案する「非同期APIリクエスト」の考え方が重要となる。OGADは、ローカル環境でAIモデルを動作させるためのデスクトップアプリケーションである。このOGADが提供する非同期リクエストの仕組みは、長時間にわたるAI処理の課題を解決し、アプリケーションの応答性を保つことを可能にする。

非同期リクエストの基本的な流れは次のようになる。まず、アプリケーションはAI処理の要求をOGADに送信する。このとき、OGADはすぐに「リクエストを受け付けた」という応答（HTTPステータスコード202）と、そのリクエストを一意に識別するための「リクエストID」をアプリケーションに返す。これにより、アプリケーションはAI処理が完了するのを待つことなく、すぐに次の処理へと進むことができる。AIモデルによる実際の処理は、OGADのバックグラウンドで独立して実行される。

アプリケーションは、受け取ったリクエストIDを使って、定期的にOGADに対して処理の「状態」を問い合わせる。この問い合わせのことを「ポーリング」と呼ぶ。ポーリングの応答として、OGADは「処理待ち（queued）」「処理中（running）」「処理完了（completed）」「処理失敗（failed）」といった現在の状態をアプリケーションに通知する。アプリケーションは、ポーリングを続け、状態が「完了」となった時点で、再度そのリクエストIDを使って処理結果を取得する。このように、リクエストの送信と結果の取得を別々のステップに分けることで、アプリケーションは長時間接続を維持する必要がなくなるのである。

具体的なPythonのコード例を見ると、この非同期処理の仕組みがより明確になる。まず、urllib.requestモジュールとjsonモジュールをインポートし、OGADが稼働しているローカルアドレス（例: http://127.0.0.1:7878）をBASE変数に設定する。 request関数は、JSON形式のデータを指定されたパスに送信し、JSON形式の応答を受け取るための汎用的な処理を担う。 最初のステップとして、OGADにロードされているAIモデルのリストを取得し、チャットまたはビジョン系のローカルモデルを一つ選択する。もしローカルモデルがロードされていない場合はエラーを終了する。 次に、"/v1/chat/completions?async=true"というパスに対して、async=trueという特別なパラメータを付加してAI処理のリクエストを送信する。このパラメータが、OGADに処理を非同期で行うよう指示する合図となる。リクエストには、使用するモデルのID、ユーザーからのメッセージ、生成する最大トークン数などが含まれる。このリクエストに対するOGADからの応答には、request_idというフィールドが含まれており、これが以降のポーリングや結果取得に利用する重要な識別子となる。 リクエストIDを取得したら、アプリケーションはポーリング処理へと移行する。これはwhileループを使って実現される。deadline変数を設定し、一定時間（例: 5分）が経過したらタイムアウトとする。ループの中では、"/v1/requests/" + job["request_id"]というパスに定期的にリクエストを送り、現在の状態を取得する。もしstatusが"completed"であれば、処理は成功裏に終了したため、結果を表示してループを抜ける。"failed"であればエラーとして処理を終了する。それ以外の状態（"queued"や"running"など）の場合は、time.sleep(2)で2秒待機し、再度ポーリングを繰り返す。

この非同期処理を利用する上で、いくつかの重要な注意点がある。 一つは、OGADの非同期処理は「永続的なキュー」ではないという点である。リクエストの状態や結果は、OGADが動作しているメモリ上に一時的に保持される。そのため、OGADアプリケーションを再起動すると、進行中のリクエストや未取得の結果に関する記録は失われてしまう可能性がある。また、OGADが保持できるリクエスト記録の数にも上限（デフォルトで500件）がある。したがって、完了したAI処理の結果を後で再利用したり、永続的に保存したりする必要がある場合は、アプリケーション側でその結果をデータベースやファイルに保存する仕組みを別途用意することが不可欠である。リクエストIDを永続的なデータへのリンクとして利用すべきではない。 二つ目は、ポーリングの運用についてである。一度リクエストIDを受け取ったら、処理が完了するまで同じリクエストIDを使ってポーリングを続けるべきである。「処理中」という応答が返ってきても、同じ内容のAIタスクを再度送信してはならない。これは、不要な負荷をかけ、混乱を招く原因となるからである。また、アプリケーション側で設定したタイムアウト時間が経過したとしても、それはクライアントが待つのをやめただけであり、OGADサーバー上ではAI処理がまだ進行している可能性があることも理解しておく必要がある。 最後に、非同期処理は、あくまで「処理の完了を待つ方法」を変更するものであり、AIモデルそのものの特性を変えるものではない。もしAIモデルがリモート（クラウド上など）にある場合や、インターネット接続が必要なデータに依存するタスクであれば、非同期でリクエストを送信したとしても、当然ながらネットワーク接続は引き続き必要となる。

このように、OGADが提供する非同期APIリクエストは、長時間かかるAI処理を効率的かつ安定的に扱うための強力な手段である。システムエンジニアを目指す者にとって、同期処理と非同期処理の違いを理解し、適切な場面で非同期処理を設計に取り入れる能力は、堅牢で応答性の高いシステムを構築するために非常に重要となる。この非同期処理の考え方は、AI分野に限らず、他の時間のかかる処理や、複数のサービスを連携させるような複雑なシステム設計においても広く応用できる基本的な概念である。