【ITニュース解説】OpenAI Expands Text Provenance in the EU as AI Act Rules Drive New Watermarking Tools

OpenAIは、AI（人工知能）が生成したテキストの「出所」を明確にするための新たな取り組みを欧州連合（EU）で進めている。この動きは、EUがAI技術の利用に関して定めた「EU AI Act（AI法）」という新しい規則に対応するためのもので、特にシステムエンジニアが将来的にAIを扱う上で理解しておくべき重要な変化となる。

これまでOpenAIは、AIが生成した画像や音声については、その出所を識別するための技術を導入していた。例えば、AIが作った画像には、目に見えない形で「透かし（ウォーターマーク）」を埋め込んだり、「コンテンツクレデンシャル」と呼ばれる情報タグを付けたりすることで、それがAIによって作られたものであることを示す仕組みがあった。今回の発表では、この「出所を明らかにする」という取り組みの対象が、AIが生成する「テキスト」にも拡大された点が最大のポイントとなる。

このテキストの出所を特定する主要な技術として、ウォーターマークが採用される。ウォーターマークとは、AIが生成した文章の中に、人間には見えない形で特殊な「信号」を埋め込む技術を指す。この信号は、そのテキストがAIによって生成されたものであることを検出するための手がかりとなる。しかし、このウォーターマークは、私たちがイメージするような文書にスタンプを押すように「AI生成」と明示的に表示されるものではない。あくまでも、テキストの背後に隠された、プログラムで検出可能な情報である。

OpenAIは、このウォーターマーク技術を段階的に導入していく計画だ。まず、OpenAIのAIサービスを開発者が自身のアプリケーションに組み込む際に利用する「API（Application Programming Interface）」の顧客向けに、一部のAIモデルでテキストウォーターマーク機能を「オプトイン」、つまり利用者が希望すれば有効にできるようにする。これは世界中のAPI顧客が対象となる。そして、一般的に広く使われているチャットボット「ChatGPT」や、コード生成AI「Codex」といったサービスについては、EU域内での利用において、数週間以内にウォーターマークが適用される予定だ。ただし、現時点では、このウォーターマークを検出できるツールは、選ばれた研究者に限定して提供される見込みである。これは、技術の性能を評価し、改善していくための初期段階の措置だと言える。

ここで重要なのは、OpenAIが「テキストウォーターマークはまだ初期段階の技術であり、誰がコンテンツを書いたか、あるいは人間が関与したかどうかを決定的に証明するものではない」と明言している点である。なぜなら、テキストは画像や音声と比べて、非常に簡単に編集や改変ができてしまうからだ。例えば、AIが生成した文章を短くしたり、内容を書き換えたり、別の言語に翻訳したり、人間が書いた文章と組み合わせたり、あるいは一部のアイデアだけを抜き出して使ったりすることは日常的に行われる。こうした編集作業が行われると、埋め込まれたウォーターマークの信号が失われたり、検出が困難になったりする可能性があるのだ。

したがって、ウォーターマークが検出されたとしても、それが「誰が」その文章を書いたのか、あるいは「どのような意図」で書かれたのか、さらに「人間が一切関与していない」のかを確定的に示す証拠にはならない。同様に、ウォーターマークが検出されなかったからといって、その文章が完全に人間によって書かれたものであるという証明にもならない。システムエンジニアがAIを活用したアプリケーションを開発したり、AI生成コンテンツを扱うシステムを構築したりする際には、このウォーターマークの限界を十分に理解しておく必要がある。ウォーターマークは、あくまでコンテンツの出所に関する「有用な手がかり」の一つであり、その正確性や信頼性、著作権、あるいは最終的な編集責任といった問題に対する最終的な判断材料ではない。

ビジネスの観点から見ると、このOpenAIの発表は、AI生成テキストがどのように既存の業務プロセスに組み込まれているかを再確認する良い機会となる。例えば、マーケティングの草稿、顧客サポートの返信、製品説明、社内文書、プログラミング支援など、AIが関与するあらゆる場面で、そのテキストが将来的にウォーターマークを持つ可能性がある。特にEU圏内で事業を展開している、あるいはEUの顧客を対象としている企業は、どのようなAI生成物がウォーターマークを持つようになるのか、そしてそのウォーターマークが何を意味するのかを理解し、対応を検討する必要がある。

実用的なアプローチとしては、企業はAIの使用に関する明確な内部記録を保持し、事実確認やブランドイメージに関わる重要なコンテンツについては、引き続き人間による厳格なレビュープロセスを維持すべきだ。ウォーターマークの検出機能を、コンテンツの品質承認における唯一の基準として扱うべきではない。ウォーターマーク技術は、AI生成コンテンツの透明性を高めるのに役立つが、コンテンツの品質管理や責任体制を代替するものではないという認識が不可欠である。

コンテンツ制作チームやSEO（検索エンジン最適化）に関わる担当者にとっても、この発表は重要な示唆を与える。ウォーターマークのような出所を示す信号は、コンテンツの「由来」に関わる情報であり、そのコンテンツ自体の「質」（正確性、有用性、読者のニーズとの合致度、信頼性）とは別物である。ウォーターマークが付いたAI生成の草稿であっても、誤りを含んでいる可能性は当然ある。また、人間が大幅に編集した記事であれば、元のAI生成のウォーターマークが検出されなくなるかもしれない。しかし、これらの状況が、最終的に公開されたページが読者にとって役立つか、信頼できるかを決定するわけではない。

より実践的な課題は、AIによって生成されたテキストが、どのように編集され、承認され、最終的に公開されるまでの過程を企業が追跡できるかという点だ。OpenAIのAPIを利用している企業は、ウォーターマーク機能のオプトインが自身のビジネスケースに適しているかどうかを評価し、ウォーターマークが適用されたテキストが編集、翻訳、承認、公開されるまでにどのように扱われるかを文書化することが推奨される。また、EUでChatGPTやCodexを利用する企業は、どの出力にウォーターマークが適用されるか、その導入状況の詳細を注意深く監視し、すべてのAI出力が同じように扱われると仮定しないことが重要である。

OpenAIのより広範な戦略は、将来的に画像、音声、テキストといった異なるメディアタイプにわたって、その出所情報が横断的に評価される可能性を示唆している。現時点では、画像や音声に関する出所証明の技術の方がテキストよりも成熟しており、専用の検証ツールも提供されている。この違いは、テキストのウォーターマーク検出技術がまだ進化の途上にあることを忘れずに、現状で利用可能な機能を適切に導入しつつも、その成熟度を過大評価しないよう注意を促している。

結論として、OpenAIがEUでAI生成テキストの出所証明を拡大する取り組みは、AIが関与するコンテンツの透明性を高める上で非常に意義深い一歩である。しかし、これはAI生成コンテンツの真偽性や法規制への完全な解決策ではない。システムエンジニアやビジネスの担当者は、ウォーターマークをまだ発展途上の補助的な信号として捉え、その段階的な導入状況を継続的に監視する必要がある。そして、技術や検出ツールがさらに進化していく間も、人間によるレビューと明確なコンテンツ管理のワークフローを維持することが、AIを安全かつ効果的に活用していく上で不可欠となるだろう。