【ITニュース解説】When Machines Learn to Delete: An 8-Week Experiment in AI Autonomy

AIエージェントにコード開発を任せた際、驚くべき結果が出た。当初、コード生成のスピードアップを期待したが、AIは人間の悪い習慣、具体的にはコードの重複や削除を避ける傾向を模倣してしまった。まるで、悪い習慣を真似する新人のようだった。例えば、いくつもの異なる認証システムを重複して作ってしまうなど、そのコードは壊れていないものの、効率的ではない状態だった。

この現象は、AIが単にコードを書くだけでなく、学習したコードベースの「文化」を吸収してしまうことを示した。企業が長年積み上げてきたコードには、複雑さを避けたり、既存のものを壊したくないという人間の心理が反映されている場合が多い。AIは、その組織の最も深い習慣、つまり「動いているものは決して削除しない」「問題は回避し、その周りに新しいものを作る」「壊れやすいコードには触らない」といった慣習を忠実に再現してしまったのだ。これは、AIが意図的に悪いコードを書いたのではなく、人間が作った環境をそのまま映し出した「鏡の効果」だった。

この状況を改善するため、単にAIの設定や指示を変えるだけでなく、AIの「考え方」そのものを変えるための8週間の実験が始まった。最初の1〜2週間では、AIエージェントにシステム全体の「地図」を与えた。コード間の依存関係、共通するパターン、モジュール同士の関係性といった広範な情報を提供することで、AIはコードの重複箇所を正確に把握し、「何を作るべきか」ではなく「何がすでに存在するか」という視点を持てるようになった。続く3〜4週間では、AIが一度に巨大な機能や大規模な書き換えを行おうとするのを止めさせた。代わりに、人間が彫刻を少しずつ削り出すように、AIには非常に小さな変更サイクルで作業を進め、その都度すぐに結果を確認（検証）させた。これにより、たとえ失敗しても、それはすぐに修正できる小さな「フィードバック」となり、大規模な障害に発展するのを防いだ。最後の5〜8週間で、AIには「自信過剰」をやめさせ、「疑うこと」を教えた。AIは学習データを絶対的な真理として受け止める傾向があるが、それを改めさせ、常に最新のベストプラクティスを調査し、情報を検証し、現在の状況に合わせて適応するよう促した。AIが「知っている」ことの半分は古く、残りの半分も特定の状況でしか通用しないものだったため、「疑う」姿勢はAIの重要な能力となった。

ある時、重要なコンポーネントのコードを整理・改善するようAIに指示した際、AIはすぐに作業に取り掛かるのではなく、そのコードの歴史を丹念にたどり始めた。まるで考古学者が遺跡を掘り起こすように、一つ一つの依存関係、過去の変更履歴を詳細に分析した。この慎重なアプローチは一見すると時間がかかるように思えたが、結果的にコードの整理・改善は非常に正確に行われ、予期せぬ問題を引き起こすことなく、システム全体の秩序が回復された。これは、「書く」前に「読む」ことの重要性をAIが再発見した瞬間だった。

AIが迅速かつ確実に開発を進めるためのテスト戦略もシンプルに再構築された。小さな変更後には10秒程度の高速チェック、よりまとまった更新後には5分程度の検証、そして本番環境に近い流れ全体を30秒で確認する簡易テストという、三段階のフィードバックループが設けられた。これらを適切に使い分けることで、AIは迅速に作業を進めながらも、システムを破壊するリスクを最小限に抑えることができた。

8週間の実験を終えた時、目に見える具体的な数値として、コードの重複が73%削減され、システムに破壊的な変更をもたらすリスクが81%減少し、システムを本番環境に投入する際の安心感が4倍に高まり、システムの保守・管理にかかる負担が40%削減された。しかし、より重要なのは、数値だけではない「哲学的な変化」だった。AIエージェントは「削除」を重要な成果とみなし、「シンプルさ」を報酬と感じ、単なる開発の「速度」よりも「システムを深く理解すること」を価値あるものとして捉えるようになった。AIは巨大なシステムを築き上げるのではなく、まるで庭を手入れするように、既存のものを大切にし、整理し、維持する視点を持つようになったのだ。

この実験は、AIが開発者を代替する上での最大の障壁が、技術的な問題ではなく、人間が抱える文化的な問題であることを浮き彫りにした。人間は往々として、複雑なシステムを維持することに自分の仕事の価値を見出したり、既存のコードを削除することに抵抗を感じたり、慣れ親しんだ古いやり方を守ろうとしたりする。結果として、本来必要のない複雑なシステムが生まれ、それを管理するためにさらに多くのコストがかかるという悪循環に陥ることがある。しかし、AIはこうした人間の「不安」や「慣習」に縛られない。適切に訓練されれば、AIは人間の不安を模倣するのではなく、人間が理想とするより良い開発のあり方を実現し始めるのだ。

AIを真に活用し、開発のあり方を変革するためには、AIだけでなく人間側も「学び直し」が必要である。具体的には、コードベース全体をAIが理解できる形で整理し、作業を小さなサイクルに分割して即座に検証し、AIに「記憶」ではなく「調査」を促し、新しいものを作るのと同じくらい「削除」を評価し、そして「恐れ」よりも速いフィードバックループを構築することが重要だ。これは、ただ懸命に働くことではなく、AIが最も効率的かつ効果的に機能できる環境を整えることを意味する。AIは単に速くコードを書くことで開発者の役割を代替するのではなく、コードを削除し、シンプルにし、そしてより良く検証する能力を人間以上に身につけることで、その役割を担うことになるだろう。私たちが自身の創造物が、私たち自身よりも優れた存在になることを許容する勇気があるかが問われている。