【ITニュース解説】UK toughens Online Safety Act with ban on self-harm content

英国で「オンライン安全法（Online Safety Act）」が強化され、自傷行為を助長するコンテンツの共有が新たに違法化されることになった。この動きは、ソーシャルメディアや検索エンジンといった巨大なプラットフォームを運営するIT企業、そしてそのシステムを開発・運用するエンジニアにとって、決して他人事ではない。インターネット上のコンテンツがユーザー、特に未成年者に与える深刻な影響に対し、社会と法律がどのように向き合おうとしているのかを示す重要な事例である。

この法改正の背景には、SNS上で有害なコンテンツに触れた後に自ら命を絶った14歳の少女、モリー・ラッセルさんの悲劇的な事件がある。彼女の死を巡る調査では、SNSのアルゴリズムが彼女に対して自傷や自殺に関連する有害なコンテンツを次々と推薦していたことが明らかになった。このような事態を防ぐため、英国政府はこれまで以上に踏み込んだ規制を導入することを決定した。これが、今回の法改正の大きな目的である。

オンライン安全法は、インターネット上のユーザーを違法で有害なコンテンツから保護するための包括的な法律である。特に子供たちの保護に重点を置いており、プラットフォーム事業者に対して、自社のサービス上に存在する有害なコンテンツを管理し、ユーザーを守るための「注意義務」を課している。今回の改正は、この注意義務をさらに具体化し、強化するものと位置づけられる。

具体的に何が変わったのか。従来の法律では、他者に対して自傷行為を行うよう直接的に働きかけるコミュニケーション、例えば「これをしなさい」といったメッセージを送ることだけが違法とされていた。しかし、新しい法律では、自傷行為の方法を詳細に描写する画像や動画、自殺という行為を美化したり助長したりするようなコンテンツなど、間接的に自傷を促す可能性のあるコンテンツ全般を違法と定めた。これは、規制の対象が「直接的な扇動」から「間接的な助長」へと大きく拡大したことを意味する。

この変更は、プラットフォームを開発・運用する技術者、特にシステムエンジニアに重大な課題を突きつける。なぜなら、間接的に助長するコンテンツをシステムで自動的に見つけ出すことは、技術的に極めて難しいからだ。単純なキーワードフィルタリングでは、文脈を無視して無関係なコンテンツまでブロックしてしまったり、逆に巧妙に表現を変えた有害コンテンツを見逃してしまったりする。そのため、より高度な技術的対策が不可欠となる。

まず求められるのは、コンテンツモデレーション、つまり投稿内容の監視・審査システムの高度化である。これには、自然言語処理（NLP）を用いて文章の意図や感情を分析する技術、画像認識AIを用いて不適切な画像を検出する技術、動画解析によってコンテンツの内容を把握する技術などが活用される。システムは、単語や見た目だけでなく、投稿の文脈全体を理解し、それが自傷を助長する意図を持つかどうかを高い精度で判断する必要がある。

次に、ユーザーにコンテンツを推薦するアルゴリズムの見直しも急務となる。モリー・ラッセルさんのケースで問題視されたように、ユーザーの興味関心に基づいてコンテンツを最適化するアルゴリズムが、意図せず有害なコンテンツへの接触を増やしてしまう「フィルターバブル」や「ラビットホール」といった現象を引き起こすことがある。エンジニアは、アルゴリズムを設計する際に、単にエンゲージメントを高めるだけでなく、ユーザーを危険から守るという観点を組み込まなければならない。これは「Safety by Design（設計段階からの安全性確保）」という考え方であり、システムの企画・設計の初期段階から安全性を最優先で考慮することが求められる。

さらに、これらの高度な処理を、世界中から絶え間なく投稿される膨大なデータに対してリアルタイムで実行するための、堅牢でスケーラブルなシステム基盤も必要だ。違反コンテンツを迅速に検知し、削除するプロセスを確立するためには、強力なコンピューティングリソースと、それを効率的に運用するインフラ技術が欠かせない。

この法律に違反した企業には、全世界での年間売上の最大10%という巨額の罰金が科される可能性があり、企業の経営幹部が刑事責任を問われることさえあり得る。そのため、システムエンジニアは、自らが開発するシステムが法規制に準拠していることを保証する責任の一端を担うことになる。もはや、法律は法務部門だけのものではなく、エンジニア自身がその内容を理解し、システム設計に反映させることが不可欠な時代になったと言える。

今回の英国の法改正は、テクノロジーが社会に与える影響の大きさと、それに伴うプラットフォーム事業者の責任の重さを改めて浮き彫りにした。システムエンジニアを目指す者にとって、これは単なる技術的な課題ではなく、社会的な責任をどう果たしていくかという倫理的な問いでもある。これからのエンジニアには、高度な技術力はもちろんのこと、自らの技術が社会にどのような影響を及ぼすかを深く洞察し、人々の安全と幸福に貢献するという視点を持つことが、これまで以上に強く求められることになるだろう。