【ITニュース解説】I Taught Open-Source AI to Listen to the Ghosts of Broken Machines

ECHO-17は、過去の機械のセンサーデータからその状態をAIが診断し、その診断結果を人間が検証できるオープンソースのシステムだ。これは「壊れた機械の幽霊にAIが耳を傾ける」というコンセプトに基づいており、過去に実際に記録された機械の動きの痕跡（データ）をAIが分析することで、その機械が当時どのような状態だったのかを「思い出す」ことを目指す。

産業機械などのコンディションモニタリング、つまり機械が正常に動いているか、故障しそうか、効率が低下しているかといった状態を監視することは非常に重要だ。近年、AIモデルを使ってこれらの状態を自動で分類・予測しようとする試みが増えている。しかし、AIが出した「故障寸前」といった診断結果を、人間はどれだけ信頼できるかという課題がある。AIの判断根拠が不透明な場合、その予測を盲信するわけにはいかない。ECHO-17は、AIが提示する診断結果だけでなく、その判断に至った証拠や、AIの予測と実際の状況との違いを明確にすることで、AIの透明性を高め、人間がAIの判断を検証・理解できるようにすることを目的とする。

ECHO-17では、ユーザーが以下のようなステップで機械の状態を検証できる。まず、実際の機械アーカイブから過去の特定の記録を選ぶ。この記録には、60秒間の圧力、流量、温度、振動、電力といった複数のセンサーデータが含まれる。次に、「ゴーストシグネチャ」と呼ばれる機能を呼び出す。これは、その機械が完全に効率良く動作していた時の実際のセンサーデータを、選んだ記録の上に重ねて表示するものだ。これにより、正常な状態と現在の記録との違いを視覚的に比較できる。その後、AIモデルに現在の記録の機械の状態（例えば、クーラーの効率）を診断させる。AIは予測を提示し、その予測の根拠となった証拠（センサーデータの特徴など）も同時に示す。そして、AIの診断結果を確認した後で、初めてその記録の実際の実験条件（正解）が明らかになる。これにより、AIの予測が正しかったのか、あるいは間違っていたのかを明確に比較できる。もしAIの診断が間違っていた場合でも、その予測は消えることなく、実際の状況との不一致がはっきりと示される。さらに、オープンウェイトのGemmaモデルが、測定された証拠に基づいて「調査報告書」を生成し、どのような観察結果が注目に値するかを説明する。

ECHO-17は、AIの予測が間違っていたケースを特に重視する。例えば、「サイクル735」という特定の記録の事例では、AIモデル（Random Forest）はクーラーの状態を「ほぼ故障」（3%の効率）と予測した。しかし、後で明かされた実際の実験記録では、「効率低下」（20%の効率）とされていた。AIの予測は実際の状況と食い違っていたのだ。ECHO-17では、このようなAIと実際の記録との不一致を隠すことなく表示する。この食い違いこそが、AIの判断を深く掘り下げて検証する絶好の機会と捉えられている。つまり、「幽霊」とは、AIが信じていることに対して疑問を投げかける、過去の実際のセンサーデータや実験結果そのものを指す。これは、単に「機械がいつ壊れるか」を予測するのではなく、過去のデータから機械の状態を分類し、AIの判断の根拠を徹底的に検証するプロセスを示している。

ECHO-17は具体的な技術要素を組み合わせて構築されている。まず、AIの訓練には「UCI 447, Condition Monitoring of Hydraulic Systems」という公開データセットが利用された。このデータセットには、2,205の実験サイクルにおける圧力、流量、温度、振動、電力のセンサー記録が含まれる。これらの生データから、平均値、標準偏差、最小値、最大値、パーセンタイルといった統計的な特徴量（全部で36種類）が抽出され、AIモデルの入力として使われた。主要な機械学習モデルとして「Random Forest」が用いられ、機械の状態を分類するベースラインとして機能した。また、AIによる調査報告書の生成には「Gemma 3 1B」というオープンウェイトのAIモデルが活用された。Gemmaは、センサー統計、Random Forestの予測結果、訓練データとの比較といった「証拠」をインプットとして受け取り、それに基づいて観察結果、比較、予測、仮説、限界などをまとめたテキスト形式の報告書を生成する。Gemmaは数値を捏造することなく、与えられた証拠から情報を選択し、解釈する役割を担う。このシステムは、ユーザーインターフェース（フロントエンド）にReact、TypeScript、Viteを、データやAIの予測結果を提供するサーバー（バックエンド）にFastAPIを使用している。デプロイにはRenderというクラウドサービスが利用され、Dockerコンテナとして動作する。Gemmaモデルは、Ollamaというツールを使ってCPU上でローカルに実行され、その結果がウェブサービスに提供される形が取られている。

ECHO-17がオープンソースとして開発されたことには大きな意味がある。もしAIが「故障」といったラベルだけを返す不透明なAPIだった場合、ユーザーはその判断の根拠を理解したり、再現したりすることはできない。しかしECHO-17では、使用されたデータセットが公開されており、特徴量の定義も明確に検査できる。AIモデルの訓練に使用されたデータ分割や、ベースラインモデル（Random Forest）が間違った予測をした特定のサイクルも全て文書化されているため、他の研究者がこの調査を再構築したり、異なる分類器で検証したりすることが可能だ。GemmaのようなAIモデルをローカルで実行することで、AIがどのような証拠に基づいて判断を下したのかという情報の流れが明確になり、調査の過程がクローズドな外部のAIモデルに依存することなく完結する。これにより、AIが出す数字の出所を全て把握でき、たとえAIの判断に同意できない場合でも、どこに問題があるのかを検証できる自由が保障される。オープンイノベーションは、AIの透明性、再現性、そして最終的な信頼性を高める上で不可欠な要素と言える。ライセンスについても、アプリケーションコードはMITライセンス、データはCC BY 4.0、各AIモデルはそれぞれの利用規約を尊重している。

ECHO-17は、AIが単に予測を提示するだけでなく、その予測の背後にある証拠を人間が徹底的に検証できる環境を提供することを目指す。これは、機械の状態監視におけるAIの活用方法に新たな視点をもたらすものだ。AIの精度を追求するだけでなく、「AIが何を信じているのか、そしてそれをどのように検証できるのか」という問いに焦点を当てることで、AIと人間が協力してより信頼性の高い意思決定を行える未来を示唆する。過去の機械が残したデータという「痕跡」に、AIが「声」を与え、人間がそれを理解し検証することで、忘れ去られそうになった重要な証拠を見つけ出す。ECHO-17は、そのような「証拠」をAIと共に「思い出す」ためのシステムなのだ。