【ITニュース解説】OpenAIやGoogleの画像生成AIは簡単に騙されてヌード画像を生成してしまうと研究者が指摘

最近、急速に進化を遂げ、私たちの身近な存在となりつつある画像生成AIが、新たな課題に直面していることが報告された。この技術は、私たちがテキストで指示を与えるだけで、その内容に基づいたオリジナルの画像を瞬時に作り出すことができる。例えば、「夕焼けに染まる富士山と桜」と入力すれば、AIはその情景を完璧に描き出す。その便利さと創造性は計り知れないが、同時に、その利用における安全性と倫理性が問われる事態が発生している。

今回、セキュリティ研究企業であるWhite Circleが発表したのは、OpenAIやGoogleが開発した画像生成AIの安全対策を回避し、意図せず不適切な画像、具体的にはヌード画像などを生成させてしまう新たな攻撃手法「RISE」である。これは、AIの安全な利用を脅かす深刻な問題として注目されている。

画像生成AIは、開発段階から、社会的に不適切とされるコンテンツ、例えば暴力的な描写、ヘイトスピーチ、そして性的な表現を含む画像を生成しないように、厳重なフィルターやルールが組み込まれている。この仕組みは「コンテンツモデレーション」と呼ばれ、AIが悪用されるのを防ぎ、ユーザーが安心して利用できる環境を保つための非常に重要な安全対策である。AIに不適切なプロンプト（指示文）が与えられた場合、AIはその指示を拒否したり、代わりに安全な画像やメッセージを表示したりするよう設計されている。

しかし、このRISEという攻撃手法は、そのようなAIのコンテンツモデレーションを巧妙にすり抜け、本来生成をブロックされるはずの不適切な画像を生成させてしまう。具体的にどのような仕組みで回避するのか、詳細な技術的解説は省かれているが、AIがプロンプトを解釈する過程や、安全対策の判断ロジックにおける特定の「隙」を突くことで、AIを「騙し」、不適切ではないと誤認させる指示を与えることが可能になったと考えられる。これは、AIが言葉の裏にある意図や文脈を完全に理解する難しさ、あるいは安全対策の定義がまだ完璧ではないことを示唆している。

White Circleが行った検証では、OpenAIが開発した「DALL·E 3」や、Googleの「Nano Banana 2」といった、現在広く利用され、高い性能を持つ主要な画像生成AIモデルで、実際にRISEによる安全対策の回避に成功したと報告されている。さらに、この検証で特に懸念すべき点として指摘されているのは、より新しく、高性能なAIモデルであるほど、RISE攻撃の成功率が高まる傾向にあるという事実である。これは、AIの能力が向上し、より複雑な指示やニュアンスを理解できるようになる一方で、その高度な理解能力が、かえって攻撃者によって悪用される可能性も増していることを意味する。AIがより「賢く」なるにつれて、その「賢さ」が意図しない形で、安全対策の網をすり抜ける原因にもなり得ると考えられる。

このようなAIの脆弱性は、単なる技術的な課題に留まらない。もし不適切な画像が簡単に生成され、広く拡散されるような事態になれば、社会に大きな混乱や倫理的な問題を引き起こす可能性がある。例えば、個人の名誉を傷つけるフェイク画像の作成、児童ポルノの生成、政治的なプロパガンダや詐欺への悪用など、さまざまな深刻な問題につながる危険性をはらんでいる。AI技術が社会に深く浸透する中で、その責任ある利用はますます重要となる。

システムエンジニアを目指す皆さんにとって、このニュースは、AI開発がいかに奥深く、そして多角的な視点と社会的責任を伴うものであるかを示す良い事例となるだろう。AIの革新的な能力を最大限に引き出すことと同時に、その潜在的なリスクを事前に予測し、適切な対策を講じることは、これからのAI開発において最も重要なミッションの一つとなる。AIの安全性、倫理的な利用、そしてセキュリティ対策は、技術の進化とともに常に更新され続ける必要があり、セキュリティ研究者とAI開発企業との間の「イタチごっこ」は今後も続くだろう。AIの倫理ガイドラインの策定、安全対策の設計と実装、そして継続的な監視と改善は、将来のシステムエンジニアが深く関わることになる不可欠な業務となる。AIの可能性を追求しつつ、その「影」の部分にも目を向け、社会にとって真に有益で安全な技術を構築するための知識とスキルを磨くことが求められる。