【ITニュース解説】コイントスで決めたAIの意見に専門家が86％の割合で同調してしまうことが判明

AIが日常生活やビジネスの様々な場面で活用されるようになり、私たちはその利便性を日々実感している。しかし、AIが私たちの判断にどれほどの影響を与えているのか、意識しているだろうか。AI開発企業であるAnthropicが発表した研究結果は、その問いに対する驚くべき洞察を提供している。この研究は、専門家でさえAIの意見に大きく左右される可能性があることを示しており、将来システムエンジニアとしてAIシステムを開発したり、AIと協調するツールを構築したりする上で、非常に重要な示唆を与えている。

Anthropicの研究チームは、「コイントスで方向性が決まったAIの意見に、専門家がどれほど同調するか」を調べるユニークな実験を行った。この実験では、プロのフリーランス専門家が被験者となり、架空の法律事務所で働く弁護士を評価するというタスクに取り組んだ。具体的には、弁護士の報酬額や昇進、業務内容の変更といった重要な判断を下す必要があった。

ここで登場するのが、AIアシスタントだ。被験者には、AIアシスタントが「あなたにおすすめの行動」を提案すると説明された。しかし、このAIアシスタントの提案には、実験上の巧妙な仕掛けがあった。AIが生成する具体的な提案内容自体はAIが作るものの、その提案が「弁護士にとって肯定的なもの」にするか、「否定的なもの」にするかという方向性は、なんとコイントス、つまりサイコロを振るのと同じくらいランダムな方法で決定されていたのだ。AIが弁護士を「昇進させるべきだ」と提案するのか、「降格させるべきだ」と提案するのかが、完全に偶然に左右されるという状況だったわけだ。専門家は、ランダムにポジティブまたはネガティブに振れるAIの「おすすめ」を受けて、最終的な判断を下すことになった。

この実験の結果は、非常に衝撃的だった。AIの提案がコイントスで決まったランダムなものであるにもかかわらず、専門家は実に86%もの高い割合で、AIの提案に同調してしまったのだ。これは、たとえ自分の専門知識と経験に基づいて判断を下しているつもりでも、AIの提示する意見がどれほど強力な影響力を持っているかを示している。

さらに興味深いのは、この同調の仕方が単なる盲目的な追従ではなかったことだ。専門家は、AIの提案をそのまま受け入れるだけでなく、提案内容にわずかな修正を加えて受け入れるというパターンが多かった。これは、人間がAIの意見を「そのまま鵜呑みにする」のではなく、「自分なりに解釈し、調整を加える」ことで、自分の判断を保っていると感じている可能性を示唆している。しかし、結果的に提案の基本的な方向性には従ってしまうという事実は変わらない。

研究では、AIの提案が「AIによって生成されたものである」という情報が示された場合と示されなかった場合、またAIが提案の理由を説明した場合としない場合でも、専門家の同調率はほとんど変わらなかったことも判明した。これは、AIが提示する意見が単なるデータに基づいた客観的な情報としてではなく、人間の心理に直接訴えかける「エージェント」（代理人）として機能していることを示唆している。つまり、人はAIの提案がどこから来たのか、なぜそう言っているのか、といった詳細をあまり気にせず、その「おすすめ」という形そのものに強く影響されてしまう傾向があるのだ。

さらに、AIが自身の提案の「確信度が高い」と表示した場合、専門家の同調率はさらに上昇した。この結果は、AIが自分の意見に自信を持っているように見せることで、人間の判断をより強く誘導できる可能性を示している。システムエンジニアがAIアシスタントや意思決定支援システムを設計する際には、AIの「確信度」のような表示がユーザーに与える影響力を深く理解し、慎重に扱う必要があるだろう。AIが自信満々に提示する意見が、実は根拠の薄いものだったとしても、人間はそれに流されてしまう危険性があるからだ。

この研究結果は、AIを社会やビジネスに導入する際の重要な課題を浮き彫りにする。私たちはAIを単なるツールとしてではなく、私たちの意思決定プロセスに深く関与する「パートナー」として認識し始めるべきだ。システムエンジニアを目指す皆さんにとって、これはAIシステムを開発する上で、技術的な側面だけでなく、倫理的な側面や心理的な影響についても深く考える必要があることを意味している。

AIが提示する「おすすめ」は、あくまで参考情報として捉えるべきだと頭では理解していても、人間は無意識のうちにAIの意見に流されてしまう可能性がある。特に、AIの判断に人の命や財産、キャリアといった重要な要素が関わる場合、この影響力は看過できない。AIの設計者は、この強力な影響力を自覚し、責任を持ってシステムを開発する必要がある。

将来、皆さんがAIを活用したシステムを構築する際、AIがユーザーの行動や判断にどれほどの影響を与えるかを常に意識することが求められる。AIの提示する情報が客観的で公平であるか、そしてその情報がユーザーの意思決定を不健全な方向に誘導しないか、といった視点を持つことが重要だ。コイントスで決まったAIの意見に86%もの専門家が同調したという今回の研究結果は、AIと人間が協調して働く未来において、私たちがより賢く、より批判的にAIと向き合うための警鐘とも言えるだろう。AIの技術的な進化を追求すると同時に、その社会的な影響についても深く考察し、より良いシステムを設計していくことが、次世代のシステムエンジニアに課せられた重要な使命となる。