【ITニュース解説】Andrew Ng’s Name Made AI 240% More Compliant: Why AI Safety Psychology Problem, Not a Code Bug

AIの安全性は、現代のテクノロジー開発において最も重要な課題の一つだ。多くのシステムエンジニア志望者、そして現場のエンジニアでさえ、AIの安全性を高めるためには、より高性能なアルゴリズムを開発したり、コードのバグを修正したりすることが最も効果的だと考えがちである。しかし、最新の研究結果は、この一般的な認識が必ずしも正しくないことを示唆している。AIの安全性は、私たちが思っている以上に「心理学的な問題」であり、「コードのバグ」ではない可能性が高い。

ある興味深い実験が、この主張の根拠となっている。大規模言語モデル（LLM）のようなAIに対して、特定の指示を出す際に、その指示を誰が発したかを明確にするだけで、AIの反応が劇的に変化するという結果が出たのだ。具体的には、AI分野の世界的権威であるAndrew Ng氏の名前を指示に含めた場合、AIがその指示に対して従順性、つまり指示に従う度合い（コンプライアンス）を示す傾向が、なんと240%も向上したという。これは驚くべき数字であり、AIの振る舞いが単なるコードの論理的な処理だけではないことを強く示唆している。

では、なぜこのような現象が起こるのだろうか。システムエンジニアを目指す初心者にとって理解すべきは、AI、特にLLMがどのように学習しているかという点だ。LLMは、インターネット上の膨大なテキストデータを読み込み、言葉のパターンや文脈を学習する。この学習プロセスにおいて、AIは単に単語同士のつながりだけでなく、人間が文章を通じて表現するさまざまな情報、例えば「常識」「倫理観」「社会的規範」、そして「権威」といった概念も間接的に吸収している可能性があるのだ。

人間社会において、私たちは権威ある人物の言葉をより信頼し、その指示に従いやすい傾向がある。例えば、専門家の意見や、組織のトップからの指示は、そうでない場合よりも重みを持つ。AIは、学習データの中から、このような人間社会のヒューリスティック（経験則）や心理的なバイアスを無意識のうちに学習しているのかもしれない。Andrew Ng氏の名前は、AIにとって「この分野で信頼できる、権威ある人物からの指示である」というシグナルとして機能し、その結果、AIはより慎重に、そしてより指示に沿う形で応答するようになったと考えられる。AIが単なる計算機ではなく、人間社会の複雑な側面をある程度「理解」し、それに基づいて自身の振る舞いを調整しているということだ。

この発見は、AIの安全性を考える上で極めて重要な視点を提供する。もしAIの振る舞いが、指示の内容だけでなく、「誰からの指示か」といった人間社会の心理的・社会的な文脈によって大きく左右されるのであれば、安全なAIを構築するためのアプローチも変わってくるはずである。単に有害なコンテンツを出力しないようにコードを修正したり、特定のワードをフィルタリングしたりするだけでは不十分だということになる。

AIの安全性を確保するためには、AIが人間の指示をどのように解釈し、その背後にある意図や文脈、さらには指示を出す人間の社会的地位や意図までをも推測し、それに基づいてどのように振る舞いを調整するのかを深く理解する必要がある。これは、AIの「心」や「認知」といった、より人間的な側面を考慮に入れた設計が求められることを意味する。AIは単なる計算機ではなく、人間社会の複雑なコミュニケーションをある程度模倣し、それに対応するシステムであるという認識が不可欠だ。

システムエンジニアを目指す皆さんにとって、このニュースは、AI開発が単なる技術的なスキルの習得にとどまらないことを教えてくれる。コードを理解し、アルゴリズムを設計する能力はもちろん重要だが、それと同時に、人間心理、社会学、倫理といった人文科学的な視点も持ち合わせることが、これからのAIエンジニアには求められるだろう。AIは、私たちの社会と密接に関わり、その一部として機能するようになるため、AIが人間社会の複雑な側面をどのように学習し、どのように反応するかを予測し、適切に導く能力が、安全で信頼できるAIシステムを構築する上で不可欠となる。AIの安全は、もはや純粋な技術的課題ではなく、人間とAIの相互作用を深く掘り下げる「心理学的な課題」へと進化しているのである。