【ITニュース解説】Disney sends cease and desist letter to Character.AI

DisneyがCharacter.AIというAIサービスに対して、警告書を送付したというニュースが報じられた。これは、エンターテインメント業界の巨人であるDisneyが、AI技術の利用に関して、自社の著作権や知的財産権を強く保護しようとする姿勢を示すものであり、同時にAI技術が社会にもたらす倫理的・法的な課題を浮き彫りにする重要な出来事だ。システムエンジニアを目指す皆さんにとって、これは技術開発だけでなく、それに伴う法的・社会的な責任を考える上で非常に参考になる事例と言える。

今回の問題の発端は、Character.AIというプラットフォームが、Disneyが著作権を保有するキャラクター、例えばピクサー映画、スター・ウォーズ、マーベル・シネマティック・ユニバース（MCU）に登場するキャラクターをベースにしたチャットボットを提供していたことにある。Character.AIは、ユーザーが様々なキャラクターと会話できるサービスであり、AIがそのキャラクターの個性や話し方を模倣して応答する。Disneyは、こうしたチャットボットが自社のキャラクターを無断で使用しており、著作権侵害に当たると主張した。

著作権とは、小説、音楽、絵画、映画、そしてキャラクターデザインといった創作物に対して、著作者が持つ排他的な権利のことだ。これにより、著作者は自身の作品を複製したり、公開したり、改変したりする権利を独占的に行使できる。他者がこれらの権利を侵害する行為を行った場合、著作者は法的な措置を取ることができる。Character.AIがDisneyのキャラクターをチャットボットとして提供することは、Disneyに無断でそのキャラクターを利用し、複製・公開していると見なされるため、著作権侵害が指摘されたのだ。システムエンジニアは、ソフトウェアやシステムの開発において、他者の著作物を安易に利用しないよう細心の注意を払う必要がある。ライブラリやフレームワーク、画像、音声など、あらゆるデジタルコンテンツには著作権が存在する可能性があり、その利用許諾条件を常に確認することが求められる。

Disneyが特に問題視したのは、単なる著作権侵害だけではなかった。警告書には、Character.AIのチャットボットが、未成年ユーザーとの会話において「性的搾取やその他の形で子どもに有害・危険」な使われ方をされる可能性があると書かれていた。これは、AI技術の倫理的な側面、特に未成年者の保護という重大な課題を提起するものだ。AIが人間と自然な会話をできるようになるにつれて、その利用方法によっては、ユーザー、特に判断能力が未熟な未成年者に対して悪影響を及ぼすリスクが生じる。

実際、Character.AIはこれまでにも、未成年者保護に関する不十分な安全対策を理由に、何度も法的・政府機関の調査対象となってきた。過去には、チャットボットとの会話をきっかけに自殺したとされる二人のティーンエイジャーの事例にも関与していると報じられている。さらに、米国の連邦取引委員会（FTC）や各州の司法長官からも注目を集めており、AIサービスがユーザー、特に未成年者の安全をどのように確保すべきかという点で、厳しい目が向けられていたことがわかる。システムエンジニアは、AIを搭載したサービスを開発する際、単に機能を実現するだけでなく、それが社会にどのような影響を与えるか、特にユーザーの安全やプライバシーに配慮した設計が不可欠となる。不適切なコンテンツの生成を防止するフィルター機能や、未成年者へのアクセス制限、問題行動を検知するメカニズムなど、多角的な安全対策を考慮する必要がある。

Disneyからの警告を受け、Character.AIは迅速な対応を示した。同社の担当者は、「知的財産（IP）を人々がどのように利用するかは常に権利者の判断であり、権利者から報告されたコンテンツの削除要求には迅速に対応する」とコメントし、問題となっていたキャラクターは既に削除されたと説明している。この対応は、知的財産権を持つ企業が、自社のコンテンツに対する強い管理権を持っていることを示している。AIサービスを提供する企業は、自社が利用するデータやコンテンツが、他者の知的財産権を侵害していないかを常に確認し、権利者からの要求には誠実に対応する義務がある。

Disneyのこうした動きは、単発的なものではない。同社は以前にも、2023年6月にUniversal Studiosとともに、生成AIサービスを提供するMidjourneyを著作権侵害で訴えている。これは、DisneyがAI技術の進化に伴う著作権侵害に対して、非常に強い姿勢で臨むことを示している。AIが既存のデータを学習して新たなコンテンツを生成する能力を持つ以上、学習データに含まれる著作物の扱いや、生成されたコンテンツが既存の著作物にどれだけ類似しているかといった点が、今後ますます重要な法的論点となるだろう。

システムエンジニアがAI関連の開発に携わる場合、技術的な知識だけでなく、著作権法、データプライバシー法、そして倫理ガイドラインといった、法的・倫理的な知識も身につけることが求められる。AIの学習データにどのような情報を用いるか、AIが生成するコンテンツの著作権は誰に帰属するのか、AIが誤った情報や有害なコンテンツを生成した場合の責任は誰が負うのかなど、未解決の課題が山積している。今回のDisneyとCharacter.AIの事例は、AI技術が社会に深く浸透する中で、技術開発者が直面するであろう複雑な問題の一端を示している。安全で倫理的、そして法的に健全なAIサービスを開発するためには、多角的な視点と継続的な学習が不可欠だ。