【ITニュース解説】How We Use OpenAI and Gemini Batch APIs to Qualify Thousands of Sales Leads

企業の営業活動において、見込み客のリストを精査する作業は非常に重要である。しかし、そのリストに含まれるWebサイトが自社のサービスに適しているかを一つ一つ手作業で確認するのは、多大な時間と労力を要する非効率なプロセスであった。特に、オンライン決済サービスを提供する企業にとって、リストアップされたWebサイトが商品を販売するECサイトであるかどうかを判別する作業は不可欠だが、営業担当者がこの手作業に追われることで、本来注力すべき顧客との商談の時間が奪われるという課題を抱えていた。この問題を解決するため、OpenAIのGPTシリーズやGoogleのGeminiといった生成AI、特に大規模言語モデル（LLM）を活用したデータ処理の自動化システムが構築された。このシステムは、数千件規模のWebサイトリストを対象に、ECサイトかどうかの判定を高速かつ自動で行うことを目的としている。AIを活用する上で最も重要な課題の一つは、その回答の信頼性をいかに担保するかという点である。LLMは時として、事実に基づかない情報を生成する「ハルシネーション」と呼ばれる現象を起こすことがあるため、AIの判定を鵜呑みにすることはできない。そこでこのシステムでは、信頼性を最大限に高めるために、単一のAIではなく、OpenAIとGoogleという二つの異なるAIプロバイダーのLLMを同時に利用する手法が採用された。これは、重要な判断を下す際に複数の専門家から意見を求めるのと同じ考え方に基づいている。具体的には、一つのWebサイトに対して両方のAIに判定を依頼し、その両者が「ECサイトである」と合意した場合にのみ、その結果を正しいものとして採用する「コンセンサスシステム」を導入した。さらに、各AIが複数回ずつ判定を行い、その多数決で結論を出すことで、偶発的な誤りを排除する仕組みも取り入れられた。もし二つのAIの意見が分かれた場合は、そのWebサイトが機械的な判断の難しい曖昧なケースである可能性が高いとみなし、人間による手動での最終確認に回される。この多角的な検証プロセスにより、AIの弱点を互いに補い、システム全体の判定精度を飛躍的に向上させることに成功した。AIに意図した通りのタスクを正確に実行させるには、人間からの指示、すなわち「プロンプト」の設計が鍵を握る。このプロンプトを最適化するプロセスは「プロンプトエンジニアリング」と呼ばれる。このシステムでは、繰り返し利用可能な「プロンプトテンプレート」という仕組みが活用された。テンプレートには、判定対象となるWebサイトのURLを後から埋め込める変数が用意されており、一度質の高い指示文を作成すれば、あとはURLを入れ替えるだけで多数のサイトに同じ処理を適用できる。プロンプトには、AIに実行してほしいタスクが極めて具体的に記述されている。例えば、判定結果を「JSON」という機械が処理しやすい特定の形式で出力するように厳密に指示し、余計な解説や言い訳を含めないよう念を押している。さらに、ECサイトかどうかを判断するための具体的なルールを明記することで、AIが独自の解釈で判断するのではなく、定められた基準に沿って一貫した評価を行うように制御している。また、LLMは特定の時点までのデータで学習しているため、最新の情報に疎いという弱点があるが、このシステムではプロンプトに「Web検索ツール」の利用を組み込むことでこの問題を克服した。これにより、AIは判定を下す直前にWebサイトの最新のコンテンツをリアルタイムで確認し、より現実に即した正確な判断を行うことが可能になった。数千件という大量のデータを効率的に処理するため、このシステムは「バッチAPI」と呼ばれる技術を利用している。これは、一つ一つのリクエストを個別に送信するのではなく、処理したいWebサイトのリスト全体を一つのファイルにまとめて送信し、AIがバックグラウンドでまとめて処理を進める方式である。このバッチ処理には大きな利点がある。まず、リアルタイムでAPIを連続して呼び出す場合に比べて利用料金が大幅に割引されるため、大規模な処理を低コストで実行できる。また、システムは一度リクエストを送信すれば、処理の完了を待つ必要がなく、後で結果ファイルを取得すればよいため、非同期で効率的なワークフローが実現する。これにより、従来の手法では膨大な時間がかかっていたであろう数千件のWebサイトの資格審査が、現実的な時間とコストの範囲内で可能となった。このAI自動化システムの導入により、営業チームは非効率な手作業から解放され、精度の高い見込み客リストを元に本来の営業活動に専念できるようになった。結果として、営業プロセスの初期段階での非効率性が解消され、チーム全体の生産性が向上した。この事例は、AIという先進技術を具体的なビジネス課題の解決に応用し、技術部門とビジネス部門が協力して大きな成果を上げた好例といえる。確立されたこの仕組みは、ECサイト判定だけでなく、他の様々なデータ分析や情報収集タスクにも応用可能な、企業のデータ活用能力を向上させるための強力な基盤となっている。