【ITニュース解説】テキストAIの透かし・ウォーターマークは技術的に困難な上に簡単に削除できる

近年、AI技術の発展は目覚ましく、特にテキストを生成するAI、いわゆる大規模言語モデル（LLM）は、私たちの日常生活やビジネスシーンに深く浸透し始めている。AIが書いた文章は人間が書いたものと区別がつかないほど自然になり、その利便性の高さから多くのコンテンツがAIによって生み出されている。しかし、この便利な技術には裏側もある。AIが生成したテキストが、まるで人間が書いたかのように偽装され、誤情報の拡散や著作権侵害といった問題を引き起こす可能性が懸念されているのだ。

このような背景を受け、欧州連合（EU）は2026年8月より「AI法」を施行する。この法律では、EU域内で事業を行うLLMプロバイダーに対し、AIが生成したコンテンツであることを「検出可能」にする義務を課す。具体的には、AIが作った文章に「ウォーターマーク」と呼ばれる目印を付けることが事実上義務付けられることになった。このウォーターマークの目的は、AI生成物であることの透明性を高め、ユーザーがその情報源を正確に判断できるようにすることにある。これにより、AIの悪用を防ぎ、AI技術の信頼性を確保しようとしているのだ。

ウォーターマークとは、本来、紙幣や証明書などに見られる、光にかざすと見える透かしのようなものを指す。デジタルコンテンツにおいては、画像や動画に埋め込まれた、目には見えないが専用のツールで検出できる著作権情報や所有者情報などを指すことが多い。テキストAIにおけるウォーターマークも、これと似た概念である。人間には通常気づかれない形で、AIが生成したテキストの中に「これはAIによって作られました」という情報を埋め込むことを目指す技術だ。これは、文字の並び順や単語の選択、文の構造などに微妙な偏りや特定のパターンを意図的に作り出すことで実現しようとする。そうすることで、テキスト自体は自然な文章に見えるが、AIがそのテキストを解析した際には、埋め込まれたウォーターマークを検出できるという仕組みが理想とされている。

しかし、テキストにウォーターマークを埋め込むことは、技術的に非常に難しい課題を抱えている。まず第一に、「人間に気づかれない形」で埋め込むという点だ。もしウォーターマークがテキストの品質や自然さを損なってしまえば、そのテキストは不自然に見えたり、読みにくくなったりして、コンテンツとしての価値を失ってしまう。例えば、不自然な単語の言い換えや、文法的に正しくても普段使わないような表現を強要することはできない。ウォーターマークを埋め込むAIは、膨大な言語データから学習した知識を元に、人間が違和感を感じないギリギリの範囲で、意図的に特定のパターンを文章の中に織り交ぜる必要がある。この「自然さと情報埋め込みのバランス」を取ることが、極めて高度な技術を要求する。また、ウォーターマークは単に埋め込むだけでなく、後から専用の検出アルゴリズムによって正確に「検出できる」必要がある。埋め込まれた情報が曖昧だったり、ノイズによって簡単に失われたりするようでは、ウォーターマークとしての意味がない。テキストは言語という非常に柔軟で表現豊かな媒体であり、画像をピクセル単位で操作するのとは異なり、意味や文脈を損なわずに情報を埋め込み、かつ検出することは、根本的に異なる難しさを持つ。

さらに大きな問題は、せっかく埋め込んだウォーターマークが「簡単に削除できてしまう」という実効性の課題だ。ソフトウェアエンジニアのショーン・グーデッケ氏が指摘するように、テキストAIのウォーターマークは非常に脆弱だ。AIが生成したテキストにウォーターマークが埋め込まれていたとしても、そのテキストにわずかな変更を加えるだけで、ウォーターマークが持つ特有のパターンや情報が失われてしまう可能性が高い。例えば、文章の一部を言い換えたり、類義語に置き換えたり、特定の単語を追加・削除したりするだけで、元のウォーターマーク検出アルゴリズムがそのパターンを認識できなくなることがある。これは、人間が手作業で編集する場合でも起こり得るし、さらに厄介なことに、別のAIを使ってテキストを「リライト」するだけでも、ウォーターマークが容易に消滅してしまうことが考えられる。テキストは、画像や音声データのように固定された形式ではなく、意味や表現の柔軟性が非常に高い。そのため、少しの加工で元の構造が大きく変わってしまい、ウォーターマークを構成する微細なパターンが壊れてしまうのだ。画像であればピクセルの一部を改変しても全体像は保たれるが、テキストは単語一つ、句読点一つで文脈や構造が大きく変化し得る。この性質が、テキストにおけるウォーターマークの脆弱性を高めている。もし、ウォーターマークが付いたテキストをAIが受け取り、それを別の目的に合わせて調整したり、要約したりするだけでウォーターマークが消えてしまうとしたら、その義務化された仕組みはほとんど意味をなさない。AI生成テキストの利用者は、意図的であれ非意図的であれ、テキストを再加工する過程で容易にウォーターマークを「洗浄」できてしまうことになる。

結局のところ、テキストAIにおけるウォーターマーク技術は、現在のところ完璧な解決策とは言えない。技術的な実装の難しさに加えて、その実効性には大きな疑問符が付いている。EU AI法のように、AI生成コンテンツの透明性を確保しようとする動きは非常に重要だが、現状のテキストウォーターマーク技術だけでは、その目的を十分に達成するのは困難だ。システムエンジニアを目指す皆さんにとって、この問題はAI技術の社会実装において避けて通れない課題の一つとなるだろう。AIの能力を最大限に引き出しつつ、その悪用を防ぎ、社会に信頼される形で運用するためには、単に技術を開発するだけでなく、その技術が持つ限界や社会的な影響を深く理解し、多角的な視点から解決策を模索する能力が求められる。ウォーターマークに代わる、あるいはウォーターマークを補完する新たな技術や、法的な枠組み、ユーザー教育といった複合的なアプローチが必要となるかもしれない。AI技術の倫理的で責任ある利用をどう実現するかは、これからのIT業界全体が取り組むべき大きなテーマだ。