【ITニュース解説】What If AI Works Too Well?

現代のIT技術、特に人工知能（AI）の急速な発展は、私たちの社会に計り知れない変化をもたらしている。この変化は、これまで人類が経験してきた技術の進歩とは異なる、新たな課題を提示する可能性がある。その一つの重要な視点として、古代エジプトのヒエログリフが教えてくれる教訓を考えてみよう。

ヒエログリフは、古代エジプトの壁や記念碑に刻まれ、物理的には何世紀も残り続けた。しかし、それを読み解く伝統や知識は失われ、何百年間も誰もその意味を理解できなかった。この失われた知識を復活させる手がかりとなったのがロゼッタストーンである。ロゼッタストーンには、同じ内容がヒエログリフ、デモティック、そして当時まだ読めた古代ギリシャ語の3つの文字で書かれていた。この橋渡しのおかげで、学者たちは失われたヒエログリフの意味を徐々に解読することができた。この物語から、情報を物理的に保存することと、その情報を理解する能力を保存することは、まったく異なるという重要な教訓が得られる。

AIに関する議論の多くは、AIが私たち人間の制御を離れ、予期せぬ行動をとったり、人類に反逆したりする可能性に焦点を当てている。しかし、この記事では、AIが「あまりにもうまく機能する」ことで生じる、もう一つの、より見えにくいリスクに注目する。AIが反乱を起こすわけでも、暴走するわけでもない。むしろ、AIが私たちの指示通りに、そして期待以上に完璧に、プログラミング、医療、工学、科学研究などあらゆる分野のタスクを実行するようになるシナリオだ。そして、私たちはその高性能なAIに深く依存するようになる。

このような依存は、技術の歴史において新しい現象ではない。人類の技術は常に「抽象化」の歴史であり、それが文明の大きな成果だ。例えば、現代のプログラマーは、自身が書いたコードが動くコンピューターのトランジスタの電気的な挙動を詳しく知る必要はない。オペレーティングシステムやコンパイラ、ネットワークの物理的な詳細、プロセッサの製造プロセスについて深く理解していなくても、高性能なアプリケーションを開発できる。これは、先人たちが築き上げた技術の「層」の上に、新たな層を積み重ねていくことで技術が発展してきた結果である。誰もがすべての層を理解しているわけではないが、それぞれの層にはそれを深く理解し、設計・製造できる専門家が人間社会の中に存在し、その知識は新しい世代に受け継がれる道が確保されてきた。

しかし、AIはこの知識の継承のあり方に大きな変化をもたらす可能性がある。想像してみてほしい。2030年のプログラマーがAIシステムを使って複雑なコンポーネントを開発する。それは完璧に機能し、テストされ、デプロイされる。このプログラマーはAIが生成したものを理解するかもしれない。しかし5年後、別の開発者がそのコンポーネントに新機能を追加しようとする際、さらに進化したAIツールを使えば、コンポーネントの内部詳細を完全に習得する必要なく修正できてしまう。20年、70年と時間が経つにつれ、元のコンポーネントの上に、人間と機械の両方によって作られた何層もの抽象化が積み重なっていく。

このとき、誰も意図的に知識を忘れたわけではないかもしれない。しかし、後の世代は、その下の層の知識を「獲得する必要がなくなった」という事態が生じるのだ。現在の専門家が引退しても、彼らの知識と経験を受け継ぐべき次世代が十分に育たない可能性がある。専門家は、長年の実践、失敗、試行錯誤、そして直接的な問題解決の経験を通して生まれる。AIがタスクを自動化することで、この「学習の過程」そのものが失われてしまう危険性がある。

同様の兆候は、すでに他の分野でも見られる。プログラミングでは、かつて低レベル言語やコンピューターアーキテクチャへの深い理解が求められたが、現在では高レベル言語やライブラリ、クラウドサービスを使うことで、そうした知識なしに高度なアプリケーションを構築できる。ただし、今のところ、プロセッサやコンパイラ、オペレーティングシステムを理解するエンジニアはまだ存在し、彼らになるための道も残されている。

より明確な例は航海術にある。かつては天体観測や複雑な計算が必要だった船の位置特定は、GPSなどの衛星測位システムによって瞬時に、そしてほとんど意識せずに行えるようになった。あまりにもGPSが優れていたため、米海軍では一時、天測航法の教育がカリキュラムから削除された。しかし、2015年に再び導入される。その理由は、GPSが故障した場合や利用できなくなった場合の「レジリエンス（回復力）」の懸念だった。この事例は、ある能力が経済的には不要になっても、戦略的には極めて重要であり続けることを示唆している。

AIは、この現象を一つのスキルにとどまらず、社会の多くの層に同時に広げる可能性がある。AIが多くの専門的なタスクを代行することで、次世代が「下の層」を維持し、説明し、再構築するために必要な学習経路が短縮され、最終的には断絶してしまうかもしれない。経験豊富なプログラマーが何千時間もかけて身につけたコード記述のスキルがAIによって数秒で代替され、エンジニアが失敗から学んだ経験、医師が非典型的な症例から得た判断力、科学者が多くの試行錯誤から見出した promising なアイデアなどが、AIの自動化によって省かれていく。私たちが「仕事」と呼ぶものの多くは、次世代の専門家を育成するための「訓練」でもあるのだ。

AIが高度化するにつれて、私たちの文明は「システムを運用する方法」は知っていても、「下の層からシステムを再構築する方法」を知る人がいなくなってしまうかもしれない。これは必ずしも文明の崩壊を意味するものではない。AIシステムがインフラの維持、修理、改善を継続し、何十年、何世紀と機能し続ける可能性もある。全てが「動き続けている」ため、この見えない脆弱性は気づかれないままかもしれない。しかし、「持っているものを使える文明」と「持っているものを再構築できる文明」の間には、計り知れない違いがある。

「知識を保存すれば良い」という反論があるかもしれない。書籍、科学論文、ソースコード、設計図、マニュアルなどを大量にアーカイブしておけば大丈夫だろうか。しかし、それだけでは不十分かもしれない。機械の操作方法はマニュアルで説明できても、その機械を誰が作るのか、その部品は誰が作るのか、その部品を作るためのツールは誰が作るのか、と遡っていけば、テクノロジーは単なる指示の集まりではなく、「これまでの能力の連鎖」の結果であることがわかる。

さらに、マニュアルには書ききれない重要な知識がある。それは「実践」の中で生きる「暗黙知（タシット・ナレッジ）」だ。機械の異常な音を聞き分ける能力、一見正しく見える結果を疑う直感、どの近似が機能するかを見極める経験、予期せぬ事態での即興対応力など、これらは記述された情報だけでは伝わらない。つまり、活動の記述を保存することと、その活動を実行する能力を保存することは異なるのである。

膨大な図書館は、必ずしも文明のバックアップではない。バックアップが本当に役立つのは、それが「復元可能」な場合に限られる。

もし私たちがAIに深く依存する社会を築くならば、私たち自身の文明のために「ロゼッタストーン」を意識的に構築する必要があるだろう。それは単なるアーカイブではなく、情報の「経路」を保存することだ。抽象化の層から、それがどのように実装されたかへ。その実装に必要なツールへ。そのツールを作るための知識へ。そしてその知識を新しい人間が学ぶための方法へ。私たちは、情報だけでなく、私たち自身の文明の深い層へと戻るための「ルート」を保存しなければならない。

これには、人間が理解しやすいように書かれたドキュメント、簡素化された参照システム、教育カリキュラム、実践的なワークショップ、保存された機器、そして経済的に必要ではなくなっても特定の能力を継続して実践するコミュニティの維持などが含まれるだろう。私たちは、文明の「復元可能なバックアップ」のようなものを真剣に考える必要があるのだ。

私たちはまだ、そのようなシステムがどのような形になるべきかを知らない。しかし、AIが抽象化の層を積み重ねていく中で、人間と深い層との間に橋を残し続けることが極めて重要である。さもなければ、ヒエログリフのように、私たちの文明の全ての情報が完璧に保存されていても、それを読み解くことができる人間が一人もいなくなる日が来るかもしれない。