【ITニュース解説】Karen Hao on the Empire of AI, AGI evangelists, and the cost of belief

Karen Hao氏がその著作「Empire AI」の中で語る内容は、OpenAIに代表される現在のAI技術の急激な発展が、単なるビジネス上の成功物語としてだけでなく、その根底にある深い思想やイデオロギーによって駆動されているという指摘である。これは、システムエンジニアを目指す人々にとって、技術が社会や経済の中でどのように位置づけられ、影響を与えているかを理解する上で非常に重要な視点を提供する。

記事が特に焦点を当てるのは、AGI（汎用人工知能）という概念に対する強い信念、あるいは「AGIのカルト」とまで表現される現象が、現在のAI産業に与えている影響である。AGIとは、人間と同じように、あらゆる種類の知的タスクを学習し、理解し、実行できる究極のAIを指す。現在のAIが特定のタスクに特化しているのに対し、AGIは人間と同等かそれ以上の汎用的な知能を持つとされる。このAGIの実現を追求する人々の中には、その到来が人類社会に革命的な変化をもたらすという、ほとんど宗教的なまでの熱烈な信念を持つ者が少なくない。Hao氏はこの信念の強さを「カルト」と表現し、それが技術開発の方向性や投資のあり方を大きく左右していると分析する。

このAGIに対する揺るぎない信念は、結果として、AI開発における莫大な費用を正当化する強力な原動力となってきた。特に、大規模なAIモデルの学習や運用には、膨大な計算資源（コンピューティング）と質の高いデータが必要不可欠である。高性能な半導体チップやデータセンターの構築、そして世界中から集められた膨大な情報の処理には、途方もないコストがかかる。しかし、AGIの実現が人類の未来を決定づけるという強い信念があるため、これらの巨額な投資は単なるビジネス上のリスクとしてではなく、「未来への必要な投資」として受け入れられてきた側面がある。AGIさえ実現すれば、あらゆる社会問題が解決され、人類はより良い未来を迎えることができるという考え方が、まるで免罪符のように機能し、巨額の資金がAI開発に流れ込むことを後押ししているのだ。

OpenAIの事例は、この構図を象徴的に示している。OpenAIはもともと、人類全体に利益をもたらすAGIを開発するという非営利的なミッションを掲げて設立された。しかし、現実の開発には莫大な資金が必要となり、Microsoftのような巨大企業からの投資を受け入れることで、営利企業としての側面を強化せざるを得なくなった。Hao氏は、この過程で、設立当初の「ミッション」（人類の利益のためのAGI開発）と「利益」（投資家へのリターンや企業としての成長）の境界線が著しく曖昧になっていったことを指摘する。本来は、非営利の理念に基づいて技術を開発し、その成果を広く社会に還元するという理想があったにもかかわらず、巨額の投資を受け、市場で競争していく中で、営利的な考慮が避けられなくなった。これにより、AGI開発の純粋な目的が、市場の論理や株主の期待に左右されるリスクが生まれる。

このようなAGIへの強い信念と、それによって引き起こされる巨額の投資、そしてミッションと利益の境界の曖昧化は、「信念の代償」としてさまざまな問題を引き起こす可能性がある。一つには、AGIの実現可能性やその時期について、過剰な期待を抱かせ、現実的な課題やリスクを見過ごす傾向が生まれることである。例えば、AIが社会にもたらしうる倫理的な問題、公平性の欠如、あるいは悪用される可能性といったネガティブな側面が、AGIという究極の目標の前では軽視されがちになる。また、AGIの実現が急務であるという切迫感が、開発競争を過熱させ、安全性を考慮しないまま技術が実用化されるリスクを高める可能性もある。さらに、巨額の資金が一部の企業や研究に集中することで、多様なアプローチや小規模な研究が埋もれてしまうなど、AIエコシステム全体の健全な発展を阻害する側面も考えられる。

システムエンジニアを目指す人々にとって、この議論は、技術開発が常に純粋な科学的探求だけで進むわけではないという現実を教えてくれる。技術の裏側には、人々の思想、経済的な動機、社会的な期待、そしてそれに伴う倫理的な問題が複雑に絡み合っている。AIという強力な技術を扱う上で、単に技術的なスキルを磨くだけでなく、その技術がどのような思想に基づいて開発され、どのような影響を社会に与えうるのかという広い視野を持つことが求められる。技術を開発し、導入する際には、その目的が本当に人類全体に貢献するものなのか、あるいは一部の利益追求のために歪められていないか、といった批判的な視点を持つことの重要性を、Hao氏の指摘は示唆している。この多角的な理解が、より責任ある技術者として成長するための基盤となるだろう。