【ITニュース解説】Googleで「トランプ大統領は認知症の兆候を示しているか」と検索するとAIの要約が機能しないとの指摘

Googleの検索エンジンは、近年AI技術の進化を取り入れ、利用者が求める情報へより効率的にたどり着けるよう様々な機能を追加している。その一つに、AIが検索結果の要点をまとめて表示する「AI Overview（AIによる概要）」や、試験運用中の「Search Generative Experience（SGE）」といった機能がある。これは、従来の検索結果がウェブサイトのリンクを羅列する形であったのに対し、AIが複数の情報源から内容を読み取り、質問に対する直接的な回答や要約を生成して検索結果ページの上部に表示する仕組みだ。これにより、利用者は多くのページを開いて情報を探す手間を省き、短時間で主要な情報を把握できるようになった。

しかし、このAI要約機能の動作に一貫性がない事例が指摘されている。具体的には、「ドナルド・トランプ大統領は認知症の兆候を示しているか」といった、トランプ氏の健康状態に関する特定の検索クエリを入力した場合、通常表示されるはずのAIによる要約が表示されないという事象が確認された。

この動作は、他の人物に対して同様の検索を行った場合と比較すると異なっている。例えば、「ジョー・バイデン前大統領は認知症の兆候を示しているか」といった形で検索すると、AIによる要約が問題なく表示されることが確認されている。このため、テクノロジー系メディアのThe Vergeは、GoogleのAI要約機能が特定の人物やトピックに対して異なる振る舞いをすることに対し、「一貫性がない」と指摘しているのだ。

システムエンジニアを目指す者にとって、この指摘は非常に重要な意味を持つ。大規模なAIシステムを設計・開発・運用する上で、「公平性」「中立性」「一貫性」は極めて重視されるべき原則だからだ。AIが特定の検索クエリに対してのみ要約を表示しないという挙動は、その背後にあるアルゴリズムや、コンテンツのフィルタリング・モデレーションの仕組みに何らかの意図や調整が加えられている可能性を示唆する。

考えられる背景としては、いくつかの可能性が挙げられる。一つは、Googleが政治家の健康状態といったデリケートな情報に関して、AIが誤った情報（ハルシネーション）を生成したり、偏った見解を提示したりするリスクを非常に高く見積もり、意図的にAI要約の表示を抑制しているという推測だ。AI技術はまだ発展途上であり、複雑で主観的な、あるいは証拠が不明瞭なトピックについては、信頼性の高い要約を生成することが困難な場合がある。特に政治的な話題は、情報の解釈や受け止め方が多岐にわたり、AIが中立性を保つことが一層難しい。

もう一つは、特定の人物に対する検索結果の取り扱いにおいて、AIモデルの学習データやチューニングに、何らかのバイアスや特定のルールが組み込まれている可能性も考えられる。AIは学習したデータに基づいて判断を行うため、学習データの偏りや、意図的に設けられた「安全装置」のようなルールが、このような動作の違いを生む原因となることがある。例えば、トランプ氏に関する過去のセンシティブな情報や誤報のリスクが、バイデン氏の場合よりもシステム内で高く評価され、より厳格なフィルターが適用されているのかもしれない。

システムエンジニアは、このようなAIの「意図しない」あるいは「意図されたが不透明な」挙動に対して、常に説明責任と改善の責任を負うことになる。AIが社会に大きな影響を与えるツールとなる中で、その決定プロセスや出力結果がなぜそうなったのかを「説明可能」にすることは極めて重要だ。なぜ特定の検索でAI要約が表示されず、別の検索では表示されるのか。この一貫性の欠如は、AIシステムの透明性や信頼性に疑問符を投げかける。

今後、システムエンジニアとしてAIシステムを構築する際には、アルゴリズムの公平性をどのように担保するか、デリケートな情報に対するAIの応答をどのように設計するか、そしてシステムの挙動がなぜそうなるのかを、技術的な観点からだけでなく、倫理的・社会的な観点からも深く考察する必要がある。AIの「ブラックボックス」化を避け、その動作原理や判断基準を可能な限り明確にし、予期せぬ挙動が発生した際には迅速に原因を特定し、修正する能力が求められるのだ。今回の事例は、AI技術が社会に深く浸透する中で直面する、技術と倫理の課題を浮き彫りにしていると言えるだろう。