【ITニュース解説】EU AI Act Deepfake Labels Are Now Mandatory: What Businesses Need to Do

EU（欧州連合）では、人工知能（AI）の利用に関する新しい法律、「AI Act（AI法）」が制定された。この法律の中でも特に注目すべきなのが、AIが生成したり加工したりしたコンテンツ、特に「ディープフェイク」と呼ばれるものに対する透明性開示の義務化だ。2026年8月2日からは、AIによって作られた特定のコンテンツに、それがAIによるものであることを示す表示が法的に義務付けられる。これは、AI技術の進化とともに、偽情報や誤解を招くコンテンツが増加する懸念から生まれたものであり、これまでの推奨事項が法的要件へと変わる。

この新しいルールは、企業が広告、ソーシャルメディア、動画、音声、その他あらゆる種類の公開コミュニケーションで生成AIを利用している場合、そのコンテンツのレビュープロセスや公開に至るまでのワークフローに大きな影響を与える。対象となるコンテンツは、「ディープフェイク」と呼ばれる、AIが生成または操作した画像、音声、動画で、実在の人物や出来事が実際に起こったかのように見せかけるものだ。例えば、政治家が実際には言っていないことを言っているかのように見せかける動画などがこれにあたる。さらに、公共の利益に関するAI生成または操作されたテキストも対象となるが、一部例外もある。

欧州委員会は、企業がこの法的義務を遵守できるよう、AI生成コンテンツに関する任意の実践規範（Code of Practice）や、AI生成コンテンツであることを示すためのEUアイコンを無償で提供している。しかし、重要なのは、これらはあくまで「任意」のガイダンスであり、企業が遵守すべき「透明性義務」そのものは法的拘束力を持つということだ。企業は実践規範を参考にしつつも、自社の具体的な義務を正しく評価し、対応する必要がある。

AI Actの「Article 50」という条項が、AI生成コンテンツに対して具体的に求める要件は二つある。一つは、AIが生成または操作した素材は、機械が読み取れる形でそれがAIによるものであると識別できる必要があるという点だ。もう一つは、そのコンテンツがディープフェイクに該当する場合、または公共の利益に関するAI生成・操作テキストである場合には、利用者に明確な開示が必要だという点である。欧州委員会が提供するEUアイコンは、このような開示に付随して使用されることが意図されており、機械可読な識別という広範な要件を代替するものではない。

開示に関するガイダンスでは、表示位置、アクセシビリティ、相互運用性にも言及されている。これは、AIコンテンツであることを示す表示を、一つの配信チャネルだけで済ませてはならず、コンテンツが公開されるあらゆる場所で、ユーザーが理解できる形で一貫して表示する仕組みが必要だという意味だ。システムエンジニアの視点で見れば、コンテンツ管理システム（CMS）やデジタルアセット管理（DAM）システムにおいて、AI利用に関するメタデータを保持し、公開時に自動的に表示する機能が必要になることを意味する。

Article 50の要件は2026年8月2日から適用される。それ以前に市場に出されたコンテンツについては猶予期間が設けられており、2026年12月までにラベリング義務が完全に適用される。つまり、企業は既存のコンテンツについてもAIによるものかどうかを確認し、必要に応じて表示を追加する作業が必要になる。ただし、芸術作品など、特定の状況下では例外や比例的な開示が適用される場合がある。このルールは、AIの利用をすべて禁止するものではなく、人々を誤解させる可能性のあるコンテンツに対する「透明性の基準」を確立することが目的だ。

この新しいルールは、特にマーケティングやコンテンツ公開のワークフローに大きな影響を与える。企業は多くの場合、様々な手段を組み合わせてコンテンツを作成するため、最終的な成果物がAIによって生成、編集、または実質的に操作されたものかどうかを追跡しづらい状況が生まれやすい。しかし、Article 50の規制対象となるコンテンツの場合、この「可視性の欠如」が法的リスクにつながる。不遵守の場合、企業は最大1500万ユーロまたは全世界売上高の3%という高額な罰金を科される可能性があるため、重大な課題だ。

システムエンジニアを目指す人にとって、ここが重要な視点となる。まず、コンテンツの作成から公開までの経路（コンテンツパス）を明確にマッピングすることが出発点となる。企業内のどのツールが画像、音声、動画、テキストを生成したり変更したりしているのかを特定し、AIによる開示が必要かどうかを誰が判断するのか、その責任者を明確にするプロセスを確立する必要がある。特に、リアルな人物の肖像、合成音声、シミュレートされたイベント、あるいは公共の利益に関するテキストがAIによって生成または操作されているキャンペーンでは、このプロセスが不可欠だ。

運用上の具体的なステップとして、以下の点が挙げられる。まず、従業員、契約業者、代理店が使用するAIコンテンツツールのインベントリ（目録）を作成することが必要だ。次に、外部に公開される可能性のある資産については、その起源と編集履歴を記録する仕組みを構築する。これは、デジタルアセット管理システムやバージョン管理システムに、AI利用に関するメタデータを追加する形で実現できるだろう。また、リアルなAI生成・操作メディアや関連する公共の利益に関するテキストを公開する前に、必ずレビューするステップをワークフローに追加する。そして、必要に応じてEUアイコンを要求される開示と共に使用し、ルール施行前に市場に出された古いコンテンツについても、2026年12月までにレビューを行う必要がある。

これは単にデザインチームや法務チームだけのタスクではない。コンテンツがどのように要求され、承認され、保存され、再利用され、配布されるか、というコンテンツライフサイクル全体に影響を与える。例えば、複数のプラットフォーム向けに動画をエクスポートする際、機械可読な識別情報（AI生成の証拠となるデータ）を動画ファイルに埋め込んだり、その情報を別途保持したりする技術的な対応が必要になるかもしれない。外部の代理店やクリエイターに対しても、クライアントが情報に基づいた公開判断を下せるよう、AI利用に関する明確な納品要件を提示する必要が出てくる。

企業にとって差し迫った課題は、多くの場合、運用面にある。どのコンテンツがAIによって生成または操作されたものかを識別できない組織は、一貫したラベル付け、ユーザーからの質問への対応、猶予期間内の古い素材の更新といった作業に苦慮することになるだろう。明確に文書化されたプロセスがあれば、あらゆるクリエイティブな決定が長大なコンプライアンス作業になることを避け、不確実性を軽減できる。システムエンジニアは、このようなプロセスをシステムに落とし込み、効率的な運用を支援することが求められる。生成AIを導入している企業にとって、現在のコンテンツ運用の中に開示チェックの仕組みを組み込む良いチャンスと捉えられる。これにより、チームがAIツールを活用しつつも、視聴者の信頼を損なうことなく、法的要件を満たすことができる。

結論として、EUのディープフェイクラベリングルールは、リアルな合成メディアや規制対象となる公共の利益に関するテキストを公開する組織にとって、AIコンテンツの透明性を運用上の必須要件とする。無償提供されるEUアイコンや任意の実践規範は有用な支援ツールとなるが、Article 50を満たすという法的義務を免除するものではない。AIの使用を文書化し、コンテンツの起源情報を保持し、公開ワークフローに開示レビューを追加する企業は、これらの新しいルールに対応するための良い準備ができていると言える。システムエンジニアは、これらの要件を満たすためのシステム設計、開発、運用において中心的な役割を果たすことになるだろう。