【ITニュース解説】Deepfake Detection API: Adding Image and Video Verification to Your Platform

現代のインターネットでは、私たちが日々目にする画像や動画、音声の中に、人工知能（AI）を使って作られたり、巧妙に加工されたりした「ディープフェイク」と呼ばれるメディアが紛れ込んでいる。例えば、オンラインでの本人確認に使われる顔写真、商品リストに掲載される画像、ニュース提供のためにユーザーが投稿する動画など、多岐にわたる場面でディープフェイクのリスクが潜んでいる。このような合成メディアは急速に増加しており、プラットフォームの信頼性やユーザーの安全を守る上で、その検出は避けて通れない課題となっている。

DeepfakeDetector.aiというサービスが提供するAPIは、このディープフェイク検出のための強力なツールだ。このAPIを使うと、画像、動画、または音声ファイルがAIによって生成されたものか、あるいは何らかの操作が加えられているかを判定し、その信頼度を数値で示してくれる。さらに、なぜそのような判定になったのか、その根拠となる「シグナル」も提供される。このAPIの利用は、共通のURL、認証方式、エラー処理に従って行われ、非常に体系的に設計されている。たとえば、短い画像なら約0.8秒、短い動画なら約2.1秒といった速さで結果を返してくれる。特に画像については、Midjourney、DALL·E、Stable Diffusionといった主要な画像生成AIによるものや、動画では顔のすり替え、口パクの操作、完全にAIが生成したクリップなどを、フレームごとに分析して検出することが可能だ。

このAPIを利用し始めるには、まずAPIキーを取得する必要がある。DeepfakeDetector.aiのウェブサイトでアカウントを作成し、APIアクセスが可能なプランに加入することでキーを発行できる。重要なのは、このキーは作成時に一度だけ表示されるため、すぐに安全な場所にコピーして保存することだ。また、セキュリティ上の理由から、このAPIキーはユーザーのウェブブラウザから直接リクエストを送るのではなく、必ずウェブサイトのサーバー側で管理し、サーバーからAPIを呼び出すように設計するべきである。これにより、キーが外部に漏洩するリスクを最小限に抑えることができる。

実際にAPIを使ってディープフェイクを検出する最も簡単な方法は、分析したいメディアの公開されているHTTPS URLをAPIに送ることだ。例えば、プロフィール写真のURLを指定して画像検出のエンドポイントに送信すると、APIがその画像を分析し、結果を返してくれる。もしメディアがプライベートなストレージに保存されている場合は、有効期限の短い署名付きURLを一時的に発行してAPIに渡す方法も有効だ。URLではなく、手元にファイルがある場合は、そのファイルを直接APIにアップロードすることも可能だ。この際、動画ならMP4やMOV、画像ならJPGやPNGなど、様々な形式がサポートされている。特にユーザーがアップロードしたファイルをスキャンする際は、後から圧縮したりサイズ変更したりする前の、元のファイルをスキャンすることが推奨される。なぜなら、再エンコードによってディープフェイクの検出に必要な細かな特徴が失われ、結果が不確実になる可能性があるからだ。

APIからのレスポンスは、JSON形式で提供される。このJSONデータには、job_idという処理の識別子、verdictという判定結果（例えば「合成である」）、confidenceという0から1までの信頼度スコア、そしてsignalsという判定の根拠が詳細に記述されている。動画や音声の場合には、flagged_segmentsとしてディープフェイクと判定された箇所が開始時間と終了時間で示されるため、レビュー担当者は問題のある部分に直接アクセスできる。これらの情報の中でも、特にconfidence（信頼度）は、次にどのような処理を行うかを判断する上で最も重要だ。APIが返す判定の文字列だけでなく、この信頼度スコアに基づいて、システムを構築することが強く推奨される。これは、APIのバージョンアップなどで文字列が変わる可能性を考慮し、より堅牢なシステムを構築するためだ。

動画のような処理に時間がかかるメディアを扱う場合、APIは非同期処理の仕組みを提供している。これは、分析が完了するまでHTTPリクエストを開きっぱなしにするのではなく、リクエストを送信するとすぐにjob_idだけが返され、分析が完了した時点で、あらかじめ指定しておいたcallback_url（Webhookと呼ばれる）に結果をPOSTで通知するというものだ。このWebhookは、結果が通知されたことを知らせる「トリガー」として利用し、実際にシステムに反映させる際には、再度APIにjob_idを使って問い合わせを行い、正式な結果を取得する運用が安全だ。これにより、悪意のある第三者が偽のWebhookを送信してシステムを不正に操作することを防ぐことができる。また、万が一Webhookが正常に届かなかった場合のために、一定時間後に未処理のジョブを定期的に確認するような仕組み（調整スイープ）を導入することも、システムをより強固にする上で有効である。

このAPIをプロダクトに組み込む際には、「確率的な結果」をどう扱うかという点が非常に重要だ。DeepfakeDetector.aiの検出結果は絶対的な事実ではなく、あくまで「確率」として提供されるため、結果を二者択一の「合格」か「不合格」だけで判断するのは危険である。理想的には、三段階の判定基準を設けるべきだ。例えば、信頼度スコアが低い場合は「問題なし」、中程度の信頼度の場合は「人間のレビューが必要」、そして高い信頼度の場合に「高確率でディープフェイク」と分類する。これらの境界値をどこに設定するかは、そのプロダクトにおいて誤検出のコストと、見逃しのコストのどちらが高いかによって調整する必要がある。例えば、厳格な本人確認プロセスでは、ディープフェイクを見逃すことのコストが高いため、「厳格モード」を有効にして、より多くの合成メディアを検出するように設定することが適切かもしれない。

さらに、APIからの検出結果だけを頼りに、ユーザーのアカウント停止やコンテンツ削除といった決定を自動化することは避けるべきだ。特に判定が境界値に近い場合は、必ず人間の目によるレビューを挟むことが重要である。また、検出結果を単独で使うだけでなく、メディアの来歴情報、ユーザーのアカウント履歴、アップロード時の状況など、他の情報と組み合わせて総合的に判断することで、より正確な意思決定が可能となる。

プライバシーとデータ処理についても、このAPIは配慮している。デフォルトでは、アップロードされたファイルは判定後60秒で自動的に削除される。もし監査目的などでファイルを一定期間保存する必要がある場合は、retain: trueというオプションを設定することで、30日間ファイルを保持することが可能だ。APIキーはハッシュ化されて保存され、各リクエストには監査のための識別子が割り振られる。現時点ではSOC 2認証は進行中であるため、この点については自社のコンプライアンスチームと事前に確認し、明確にしておくべきである。

APIの利用には料金が発生し、プランによって月間の検出回数や料金が異なる。コストを効果的に管理するためには、全てのメディアをスキャンするのではなく、ディープフェイクである可能性がないメディア（例えば、自社で作成した広告素材など）はスキャン対象から除外したり、同じファイルが複数回アップロードされた場合に過去の検出結果を再利用する（重複排除）といった工夫が有効だ。また、メディアが実際に重要になる「決定点」でスキャンを行うことで、無駄な検出コストを削減できる。例えば、アカウント承認時や公開時、支払いの処理時などがこれに該当する。

このAPIは、さまざまな種類のプロダクトに組み込むことができる。例えば、本人確認（KYC）サービスでは、ユーザーがアップロードする顔写真や身分証明書画像が偽造されていないかを確認し、不正なアカウント開設を防ぐ。ソーシャルメディアやニュースサイトでは、ユーザーが投稿する画像や動画を公開前にスクリーニングし、不適切なコンテンツや誤情報の拡散を阻止する。オンラインマーケットプレイスでは、偽の在庫や身元詐称のために使われる可能性のある商品画像や出品者確認画像をチェックするのに役立つ。金融詐欺対策では、支払い要求を伴う音声メッセージやビデオ通話が、AIによるなりすましではないかを確認するといった応用も考えられる。

このように、DeepfakeDetector.ai APIは、今日のデジタル社会におけるディープフェイクの脅威からプラットフォームとユーザーを守るための重要な手段を提供する。システムエンジニアを目指す皆さんにとって、このようなAIを活用した外部APIの連携は、今後の開発においてますます重要なスキルとなるだろう。単にAPIを呼び出すだけでなく、その結果の特性（確率的であること）を理解し、いかにシステムに安全かつ効果的に組み込むかという設計思考が、サービスの信頼性を高める鍵となる。