【ITニュース解説】A Human Clicked Approve. Is That Editorial Responsibility?

欧州連合（EU）は、人工知能（AI）技術の利用に関する新たな規制として「EU AI Act」（EU AI法）を制定した。この法律は、AIが社会に与える影響を考慮し、特に市民の権利や安全、透明性を確保することを目指している。システムエンジニアを目指す皆さんにとって、将来AIシステムを開発したり運用したりする際に、この法律の知識は非常に重要だ。特に、2026年8月2日から施行される一部の規則は、AIが生成するコンテンツの取り扱いに大きな影響を与える。

この法律の中でも注目すべきは「第50条第4項」である。これは、AIシステムが生成または操作したテキストが、「公益に関わる情報を目的として」公開される場合に適用される。具体的には、そうしたテキストを公開するAIシステムの「展開者」（deployer）は、そのテキストが人工的に生成または操作されたものであることを明確に開示する義務を負う。例えば、ニュース記事や公衆の関心事に関する情報がAIによって作られた場合、それはAIが関与していることを示さなければならない。これは、読者が情報の出所や信頼性を正しく判断できるように、透明性を求めるルールだ。

しかし、この開示義務には例外が設けられている。その例外が適用されるには、二つの条件を満たす必要がある。一つは、「AIが生成したコンテンツが、人間のレビューまたは編集管理のプロセスを経ていること」。そしてもう一つは、「そのコンテンツの公開に対して、自然人（人間）または法人（企業など）が編集責任を負っていること」だ。これら二つの条件は「かつ（and）」で結ばれており、どちらか一方だけでは例外は認められず、両方が満たされなければならない。もし、これらの条件が満たされない場合、そのコンテンツはAIによるものであることを開示する必要がある。

この例外条件で特に難しいのが、「人間のレビューまたは編集管理のプロセス」という部分だ。記事によれば、単に「ざっと目を通す」だけでは十分なレビューとは言えない可能性がある。どの程度のレビューや管理が「プロセス」として認められるのか、具体的な基準はまだ明確にされていない。これは、今後のガイドラインや規制当局、法律専門家の判断に委ねられる部分であり、AIシステムを開発・運用する側としては、常に最新の情報を注視し、慎重に対応する必要がある。単に人間が一度承認ボタンを押しただけで、「レビュー済み」と見なされるとは限らないという点が重要だ。

実際の現場での例を考えてみよう。過去には、ワシントン・ポスト紙の「Heliograf」というAIシステムが、2016年の選挙報道などで約850本もの記事を自動生成した。これらは人間が手掛けるには人員が足りないような、大量かつ限定的な分野のコンテンツだったという。このような高頻度で出力される記事一つ一つに、どの程度の「人間のレビューまたは編集管理」があったのかは、まさに第50条第4項が問う問題だ。また、AxiosというメディアがOpenAIと提携した際も、AIは記事の作成そのものではなく、コンテンツのシステム構築、配信、収益化の支援に使うと説明された。これらの事例は、AIの活用方法が多岐にわたる中で、どこまで人間が関与すれば開示義務の例外となるのか、という線引きの難しさを示している。

このような曖昧さや難しさに対し、記事では「Hlinor」という情報源からの推奨事項として、AI生成コンテンツの運用における四つのチェック項目を提示している。これらは法律で定められたものではないが、例外条件を満たすことを証明しやすくするための実用的なガイドラインとなる。

一つ目は、「承認はゲートであること」。組織の方針で「AIが生成したもので人間がレビューすべき」と定められたコンテンツは、責任ある人間によって正式に承認され、その記録が残らなければ公開してはならない。単なる形式的な承認ではなく、公開を止める権限を持つ「関門」として機能する必要がある。

二つ目は、「責任が割り当てられていること」。コンテンツが公開される各チャネル（WebサイトやSNSなど）ごとに、その公開に対して編集責任を負う自然人または法人を明確に定め、それを記録しておく必要がある。誰が最終的な責任者であるかをはっきりさせることで、問題発生時の対応も明確になる。

三つ目は、「レビューが証拠付けられていること」。人間がコンテンツをレビューした際に、何を見て、どのような変更を加えたか、あるいは内容をそのまま承認したか、その記録（ログ）を残すべきだ。これにより、実際に人間がコンテンツに関与したプロセスを客観的に示すことができる。

四つ目は、「範囲が明確であること」。AIエージェントが単独で公開できるコンテンツと、人間の承認が必要なコンテンツの境界線を、書面による明確なポリシーとして定めるべきだ。この線引きは組織の判断によるものであり、「短い定型的な記事だから」といった理由だけで、第50条第4項の対象外になるとは限らない。公益に関わる情報である可能性を考慮し、弁護士と相談しながら慎重にポリシーを策定する必要がある。

これらの推奨事項は、AIシステムが生成するコンテンツの公開において、「人間の関与」（human in the loop）が単なる習慣ではなく、厳格なルールとして機能すべきであることを示している。つまり、システムを設計する際には、どこまでをAIに任せ、どこから人間の確認や承認が必要になるのか、その「委任の境界線」を明確に設定することが求められる。簡単に元に戻せる、あるいは安価に確認できるような作業は自動化し、そうでない部分には必ず責任者を割り当てる。AIによる「公開指示」は、「公開許可」とは異なるという認識を持つことが、今後のシステムエンジニアにとって非常に重要となるだろう。透明性と責任を持ったAIシステムを構築することが、これからのエンジニアに求められる大切な役割だ。