【ITニュース解説】Digital Ethics Position Paper: Deepfakes

システムエンジニアを目指す皆さんは、日々のニュースで最先端のIT技術に触れる機会が多いだろう。その中でも、人工知能（AI）が作り出す「ディープフェイク」という技術は、近年、デジタル社会における倫理的な課題として大きな注目を集めている。ディープフェイクとは、AIを使って実在の人物の顔や声などを非常にリアルに模倣し、あたかもその人が実際に言ったり行動したりしたかのように見せかける合成メディアのことを指す。当初はAIの高度な画像・音声生成能力を示す技術デモンストレーションとして開発されたが、今ではエンターテイメントから悪意のある利用まで、幅広い場面で使われているのが現状だ。映画制作における俳優の若返り表現や、教育分野での活用など、ポジティブな使い道も存在する一方で、規制がなければ、誤情報の拡散、詐欺、ハラスメント、そして社会の信頼の失墜といった倫理的リスクが、その利益をはるかに上回ってしまうという深刻な懸念が指摘されている。

ディープフェイクが突きつける最も中心的な倫理的問題は、人をだます目的での悪用である。これはデジタルコミュニケーションや民主主義に対する深刻な脅威となり得る。たとえば、選挙期間中に政治家が実際には言っていないことや、していない行動をしているかのように見せかける偽の動画や音声が拡散されれば、世論が大きく誤った方向に誘導されてしまう可能性がある。実際に、2020年には米国の政治家ナンシー・ペロシ氏が、実際よりも体調が悪いかのように見せかけるよう加工されたディープフェイク動画が広範に拡散された事例がある。また、ディープフェイクはハラスメントや搾取を助長する危険性も持っている。特に、同意のない性的なコンテンツ、いわゆる「非同意ポルノ」に悪用されるケースが多発しており、オンライン上のディープフェイクのほとんどが女性を標的にしているという悲しい現実がある。さらに、AIが声の特徴を学習して作り出す「AI音声クローン」が詐欺に利用される事例も報告されている。家族や企業の最高経営責任者（CEO）になりすまして金銭を要求するといった手口で、本人確認が難しいデジタル時代においては、このような詐欺が大きな被害をもたらす可能性を秘めている。これらの問題は、メディアに対する人々の信頼を根底から揺るがす。たとえ本物の映像や音声であっても、「ディープフェイクかもしれない」という疑念が常に付きまとうようになり、真実ですら偽物として退けられる「嘘つきの配当」という現象が生じてしまう。その結果、ディープフェイクは、真実が簡単に操作され得るデジタル環境を作り出し、証拠に基づき、説明責任を重んじ、互いに信頼し合うことで成り立っている社会にとって、極めて危険な状況を生み出していると言える。

一方で、ディープフェイク技術の擁護者は、技術そのものは中立的なツールに過ぎないと主張することがある。彼らは、創造的な産業分野では、映画で俳優の年齢を調整したり、歴史ドキュメンタリーで失われた声を復元したり、あるいは声を失った人々のためにスピーチを生成するなど、アクセシビリティの向上に役立てたりするポジティブな活用事例を挙げる。また、ディープフェイクを芸術表現や風刺の一形態と見なし、表現の自由によって保護されるべきだと考える意見もある。これらの用途が有効であることは事実だが、悪意ある利用によって生じる被害の規模は、管理された良い用途から得られる利益をはるかに上回ると考えられている。ディープフェイクが従来の映像編集や音声編集と異なる点は、その「アクセシビリティ」にある。現在の技術では、無料で利用できるツールが普及し、特別な技術知識がなくても、ほぼ誰でも非常にリアルな偽コンテンツを作成できてしまう。この高いアクセシビリティが悪用の敷居を著しく下げ、大規模な誤用につながる危険性を高めているのだ。

このような状況を踏まえ、ディープフェイクは緊急に対処すべき倫理的かつ規制上の課題であると認識されている。もし放置されれば、デジタル上のあらゆる証拠が信頼できないという事態にまで公衆の信頼が損なわれる可能性がある。これはジャーナリズムの信頼性、司法システムの公平性、そして民主的な議論の健全性を深く傷つけることになるだろう。この問題に対する責任は、ディープフェイクを作成する個々のクリエイターだけでなく、AIツールを開発し配布するテクノロジー企業、適切な法規制を制定する必要がある政府、そしてコンテンツの操作を見抜くためのデジタルリテラシーを高めるべき社会全体に及ぶとされている。

この複雑な問題に対する具体的な解決策として、いくつかの方向性が提案されている。まず、政府による「法規制」の整備が挙げられる。悪意あるディープフェイク、特に政治的な操作、詐欺、そして非同意ポルノに利用される行為を犯罪と見なす法律を制定することが求められている。すでに中国や欧州連合（EU）では、AIに特化した法律の草案が作成されるなど、国際的な動きが見られる。次に、AI開発者側の技術的な対策として「透かし（ウォーターマーク）と検出技術」の導入が重要である。AIが生成したコンテンツに、それが合成メディアであることを容易に識別できるような追跡可能なデジタル透かしを組み込むことで、偽物と本物を見分ける手助けとなる。大手テック企業であるMetaやOpenAIなども、この分野での実験を進めているところだ。また、市民一人ひとりがデジタルコンテンツの信憑性を疑う力を養うための「公共の意識向上キャンペーン」も不可欠である。これは、フェイクニュースに対するメディアリテラシー向上キャンペーンと同様に、デジタルコンテンツに接する際の批判的思考を促す教育を指す。最後に、「倫理的なAI開発」が求められる。テクノロジー企業は、その開発するAIツールが悪用されにくいような厳格な基準に従う必要がある。例えば、強力な生成モデルへのアクセスを許可する前に、本人確認を義務付けるなどの対策が考えられる。

ディープフェイクは、AIが持つ創造的な可能性を象徴する一方で、その悪用は民主主義、個人の安全、そして社会全体の信頼に極めて深刻なリスクをもたらす、デジタル倫理における重要な課題だ。この倫理的責任は、規制当局、テック企業、そして社会全体が協力し、イノベーションの芽を摘むことなく、適切な安全策を確立することにかかっている。解決策は、積極的に問題に対処するガバナンス、公共教育、そして技術的な説明責任を組み合わせることにあると考えられる。もし今すぐ行動を起こせば、ディープフェイクは創造的なツールとしての役割を維持できるだろう。しかし、この問題が放置されるならば、それはデジタル時代の最も社会を不安定化させる力の一つとなる可能性を秘めていると言える。