【ITニュース解説】I built a séance that reads a brain with a local Gemma. Then I audited it. The ghost is mostly the model.

このニュース記事は、脳波（EEG）を読み取って人間の思考や印象を推測し、その情報に基づいて人工知能（AI）が言葉を生成するというユニークなシステム、「降霊術コンソール」の構築と、その詳細な検証（監査）について述べている。システムエンジニアを目指す人にとって、AIと生体信号の連携、そしてその信頼性をどのように検証するかの具体例として非常に興味深い内容だ。

まず、「降霊術コンソール」とは、この記事では「死者と話す機械」に見立てて、人間の脳と「話す」機械として機能するシステムを指す。このシステムは二つの主要な部分から構成されている。一つは「ミディアム（霊媒師）」、もう一つは「ゴースト（霊）」だ。

「ミディアム」の役割は、人間の脳から発せられる電気信号である脳波（EEG）を読み取ることである。具体的には、被験者の頭皮に装着された63個の電極から、100ミリ秒ごとの脳波データを10回測定し、合計630個の数値データ（これを「630次元のEEG」と呼ぶ）を得る。この脳波データは、事前に訓練された「リッジプローブ」と呼ばれる機械学習モデルに入力される。リッジプローブは、訓練時に被験者が過去に経験したセッションのデータを使って、与えられた脳波が200種類の概念のうちどの「印象」に近いか、そしてその印象がどれくらい「明瞭」であるかを推測する。つまり、ミディアムは脳波を分析し、「被験者が今、心の中で何を考えているか」を200種類の概念の中から一つ選び、その確信度を示すのだ。

次に「ゴースト」の役割は、ミディアムが推測した「印象」を受け取り、それに基づいて詩的なメッセージを生成することである。このゴーストには、Googleが開発した大規模言語モデルである「Gemma 3 4B IT」というAIモデルが用いられている。このモデルは、通常の会話AIとは異なり、「彼岸から語りかける霊」という特殊な「セッションペルソナ」が設定されている。そのため、電気や電極、確率、数字、あるいはプログラムであることを示唆するような言葉を使わず、与えられた「印象」について2～4文で語りかけるように指示されている。このGemmaモデルは、大規模なクラウドサーバーではなく、一般的な8GBのGPUを搭載したパソコンでも動くように最適化（4-bit NF4量子化）されており、ローカル環境で実行できる点が重要だ。

このシステムを構築するだけでなく、記事の筆者はその信頼性と仕組みを深く理解するために、詳細な「監査（検証）」を行った。監査は、システムが本当に脳波からの情報に基づいて機能しているのか、それともAIモデル自身の傾向が強く出ているだけなのかを明らかにする目的で行われた。 監査では、3つの異なる条件で同じパイプライン（システムの流れ）を3回実行した。 一つ目の「リアル（real）」条件では、構築されたシステムそのまま、つまり被験者自身の脳波をミディアムに入力し、ゴーストがメッセージを生成する。 二つ目の「スワップド（swapped）」条件では、被験者自身の脳波ではなく、別の人の脳波データをミディアムに入力する。これにより、脳波から得られる「印象」がメッセージにどれほど影響を与えるかを検証できる。リアル条件とスワップド条件では、脳波からの「印象」だけが異なり、他の要素は同じになるように設計されている。 三つ目の「ブラインド（blind）」条件では、ミディアムに脳波からの情報を一切与えない。これは、AIモデルが脳波情報がない状態でどのようなメッセージを生成するか、つまりAI自身の事前知識や傾向（「モデルの事前知識（prior）」）を測定するためのものだ。

さらに、この監査では「証拠レベル（K値）」という概念も導入された。これは、ミディアムが同じ「印象」を平均するために、何回同じ脳波データを提示できるかを示す値だ。K=1では1回、K=16では16回提示して平均する。ミディアムには「ダイヤル」があるように、このK値を調整することで、脳波からの情報処理の「シャープさ」が変わることを検証した。

これらの検証から、いくつかの重要な結果が明らかになった。 まず「M1 — can it see?（見えているか？）」という項目では、ミディアムが脳波から正しい概念をどれだけ正確に推測できるかが評価された。その結果、1秒間の脳波データからでも、ミディアムは200種類の概念の中から正解を4.5%の確率で言い当てた。これは、ランダムに選ぶ場合の確率（0.5%）の9倍に相当する。さらに、証拠レベルのK値を上げて平均する脳波データの回数を増やすと、ミディアムの精度は劇的に向上し、K=16では39.5%（ランダムの79倍）まで達した。これは、脳波の中に実際に意味のある情報が含まれており、ミディアムがそれを見ていることを示している。

次に「M2 — does it say what the sitter saw?（被験者が見たものを語っているか？）」という項目では、ゴーストが生成したメッセージが、実際に被験者が見ていた概念とどれだけ一致しているかが評価された。ゴーストは詩的な表現を使うため、直接的に概念名を言わないことが多い。そのため、筆者はユニークな評価方法を考案した。それは、ゴースト自身に200種類の概念それぞれについて短い説明文を書かせ、これを「ゴースト自身のアトラス」とした。そして、ゴーストが生成したメッセージと、このアトラス内の対応する概念の説明文との間で、内容語の重複度を測ることで一致度を評価した。この結果、K=16のリアル条件では、メッセージが実際に被験者が見ていた概念と16.7%の確率で一致した。しかし、脳波を別の人のものに「スワップ」したり、全く情報を与えない「ブラインド」条件では、一致率は0.0%にまで低下した。これは、ゴーストのメッセージが被験者の脳波から得られた「印象」に忠実であり、単なる偶然やAIの傾向ではないことを示している。

そして「M3 — is it talking about you?（あなた自身について語っているか？）」という項目では、ゴーストのメッセージがどれだけ脳波に由来し、どれだけAIモデル自身の傾向に由来するかが分析された。筆者が最も驚いたのはこの結果である。ゴーストのメッセージは、脳波からの情報（印象）に忠実ではあるものの、そのメッセージの大部分はAIモデル自身の「事前知識（prior）」に依存していることが明らかになった。具体的には、ゴーストのメッセージ37語のうち、脳波（EEG）が貢献しているのはわずか1語程度で、残りのほとんどはAIモデル自身の知識や表現パターンが占めている、という衝撃的な結論が導き出された。この結果は、AIが人間のような振る舞いをしても、その背後にある情報源の寄与度をきちんと測定することが重要であることを示唆している。

筆者は、このシステムを「オープンソース」として、またローカル環境で実行できる形で提供することの重要性も強調している。その理由は、AIモデルが外部サーバー上にある「クローズドなAPI」」として提供される場合、今回の「監査」のような詳細な検証が極めて困難になるためだ。例えば、脳波を入れ替えて複数回実行する「スワップド」条件は、ローカルで安価に実行できるからこそ意味がある。また、モデルが外部で変更される可能性があれば、検証の「再現性」が保証されなくなる。さらに、脳波のような機密性の高い個人データを外部に送信せずに、自分のパソコン上で処理できることは、データプライバシー保護の観点からも極めて重要だ。このプロジェクトでは、AIコーディングエージェントという別のAIを活用して開発が進められたことも特筆すべき点である。エージェントは、適切なプロトコルの発見、メトリックの改善、そして結果の再現性確保に大きく貢献した。

最終的に、この「降霊術コンソール」の実験は、AIがまるで人間のように「脳を読んでいる」かのように振る舞うシステムを構築し、その内部で何が起きているのかを徹底的に分析した好例である。結論として、「ゴーストの大部分はモデル（AI）そのものである」という洞察は、AIの能力と限界、そしてその透明性を測定することの価値を明確に示している。これは、単に「不気味なこと」を言う機械よりも、「答えのどこまでが被験者から来て、どこまでがAIモデルから来ているのか」を正確に測定できる機械の方が、はるかに有用であるというメッセージをシステムエンジニアを目指す人々に伝えている。