【ITニュース解説】I stripped metadata from AI images to see if YouTube would still flag them

AI技術の進歩に伴い、画像や動画といったコンテンツがAIによって生成される事例が急速に増えている。これに対応するため、YouTubeのような主要なオンラインプラットフォームは、コンテンツがAIによって作成されたものかどうかを識別し、その情報をユーザーに開示する仕組みを導入し始めた。この識別は当初、コンテンツファイルに埋め込まれた特定の情報、すなわち「メタデータ」に大きく依存していた。

メタデータとは、画像や動画ファイル自体ではなく、そのファイルに関する付加的な情報のことを指す。例えば、デジタルカメラで撮影された写真には、撮影日時、カメラのモデル、露出設定、さらに撮影場所のGPS座標などがメタデータとして記録されている。AIによって生成された画像にも同様に、その画像がAIによって作成されたという情報や、使用されたAIツールの種類といった情報がメタデータとして埋め込まれるのが一般的である。これには、より詳細なコンテンツの来歴を示す「C2PAマニフェスト」という標準的なデータ形式や、「Made with X」（XはAIツールの名称）のようなシンプルなタグ、あるいは人間の目には見えないピクセルレベルの透かしが含まれることがある。プラットフォーム側は、これらのメタデータを読み取ることで、コンテンツがAIによって生成されたものであるかを判断し、YouTubeではAI生成コンテンツに対してその旨を明確に表示するようになった。これは、コンテンツの透明性を高め、ユーザーが情報の出所をよりよく理解する上で重要な取り組みである。

しかし、このメタデータに依存した検出方法には、根本的な脆弱性が存在した。ある実験では、一般的なAIツールで画像を生成した後、その画像に埋め込まれたAI生成を示す全てのメタデータを完全に削除する試みが行われた。その後、このメタデータが除去された画像をYouTube、X（旧Twitter）、Instagramといった複数のプラットフォームにアップロードしたところ、約6週間にわたり、どのプラットフォームもそれらの画像をAI生成コンテンツとして検出せず、通常のアップロードとして扱った。この結果は、当時のプラットフォームの検出システムが、AI生成を示すメタデータが存在しない場合、そのコンテンツをAI生成であると判断できないことを明確に示していた。システムはメタデータを唯一の判断材料としており、それが失われると手がかりを失ってしまう状態だったのだ。

だが、この状況は永続しなかった。約6週間が経過した後、同じ手順でメタデータを削除したAI画像を再びアップロードすると、今度はそれらがAI生成コンテンツとして検出されるケースが増加した。毎回ではないものの、その頻度から、プラットフォーム側が検出システムに何らかの変更を加えたことは明らかであった。これは、メタデータだけに頼らない、新たな「第2の検出レイヤー」が導入されたことを意味する。

この第2の検出レイヤーは、ファイルに付随するメタデータではなく、画像や動画そのものの内容を分析することでAI生成コンテンツを特定しようとするものである。具体的な手法としてはいくつか存在する。一つは「周波数領域分析」である。AI生成画像には、自然な写真には見られない、高周波の細部において統計的な「癖」やパターンが存在することが知られている。この特性を分析することで、AI生成画像を識別する。もう一つは「ピクセルレベルの透かし」である。一部のAI生成ツールは、人間の目には見えないが、画像データの中に特定のパターンを埋め込むことがある。この透かしは、画像を圧縮したり、別の形式に変換したりしても残るように設計されている場合があり、検出の対象となる。さらに、「ヒューリスティック検出」と呼ばれる手法もある。これは、画像が圧縮された際に生じる特定のノイズ（圧縮アーティファクト）、画像のシャープネスのパターン、AIモデルが顔やテキストをどのように処理するかといった、複数の経験則（ヒューリスティクス）に基づいてAI生成コンテンツの特徴を捉えようとするものである。これらの新しい検出方法は急速に進化しており、その精度も向上しているが、まだ完璧ではなく、誤検出が発生する可能性も存在する。

ここで重要なのは、メタデータというものが、そもそも簡単に変更したり削除したりできる「軟弱な信号」であるという点だ。ファイルを別の形式で保存し直すだけでメタデータが失われることも珍しくない。AIコンテンツの来歴や信頼性を保証するために標準化が進む「C2PA」といった規格も、メタデータは除去可能であり、一度除去されればその来歴情報は失われるという事実を公然と認めている。プラットフォーム側もこの事実を認識しているため、メタデータに依存する検出システムから、画像そのものを分析する検出システムへと移行しているのだ。

しかし、この検出技術の進化は、新たな問題も生み出している。それは、プライバシー保護とAIコンテンツ検出の間の「緊張関係」である。メタデータを削除するツールは、セキュリティとプライバシーの観点から非常に有用であり、広く利用されている。例えば、スマートフォンで撮影した写真には、しばしばGPS情報がメタデータとして記録されることがあるが、これを削除してからSNSに投稿することは、個人の位置情報を不必要に公開しないための一般的なプライバシー保護の実践である。多くのセキュリティガイドラインでも、この種のメタデータ除去が推奨されている。

ところが、このプライバシー保護のために使われる同じツールや機能が、AI生成画像から検出用のメタデータを削除し、結果的にAI検出システムを回避することにも繋がってしまうのだ。同じツールを使い、同じ行動（メタデータ削除）を行うにもかかわらず、一方は個人のプライバシーを守る正当な目的であり、もう一方はAIコンテンツの識別を妨げる目的となる。これらの二つの異なるユースケースを技術的に分離することは非常に困難である。

AIによって作られたコンテンツそれ自体が悪であるという認識は誤解を招く。AIが生成したイラストや、契約書の草案、動画の合成音声など、それらの多くは創造的なプロセスを助け、人間が何日もかかるような作業を短時間で実現するなど、非常に有用なものである。問題の本質は、AIコンテンツの存在そのものではなく、「量」にある。インターネットは現在、大量のAI生成コンテンツによって「溺れている」状況にあり、Redditの一部カテゴリやYouTube、Google検索結果などでは、質の低いAIコンテンツが横行し、有益な情報とノイズを見分けることが非常に難しくなっている。

検出システムは、この「良質な情報とノイズを見分ける」という課題を解決しようと試みている。しかし、現行のシステムは、削除が容易な信号に依存しており、かつその信号を削除するツールが、同時にユーザーのプライバシー保護という正当な目的にも利用されているという構造的な問題を抱えている。この問題は、単なる技術的な課題にとどまらず、社会的な側面も含んでいるため、一朝一夕に解決できるものではない。今後のAI技術とプラットフォームの進化の中で、この複雑な課題に対する新たなアプローチが求められている。