【ITニュース解説】SpotifyのエンジニアがClaude Codeのトークン消費を約90％削減した方法とは?

Spotifyのエンジニアたちが、AIを活用した開発作業で直面した課題とその見事な解決策について、具体的な内容を深掘りしていく。このニュースは、システムエンジニアを目指す人にとって、AIがどのように実際の開発現場で使われ、どのような工夫がされているかを理解する良い機会となるだろう。

まず、Spotifyが利用していたのは「Claude Code」というAIモデルだ。これは、エンジニアのコーディング作業を助けるためのAI、いわゆるAIコーディングエージェントの一種である。コードの生成、バグの特定、テストの作成など、多岐にわたるサポートを提供してくれる。AIエージェントがコードを生成したり、質問に答えたりする際には、プロンプトと呼ばれる指示や、参照すべき既存のコード、ファイルの内容といった情報を「トークン」という単位で処理する。トークンはAIが言語を理解し、情報をやり取りするための最小単位のようなものであり、AIサービスの利用料金は、このトークンの消費量に基づいて計算されることが多い。そのため、トークンを大量に消費すると、それだけコストがかさむことになる。

Spotifyのエンジニアは、このClaude Codeの利用において、ある課題に直面した。それは、AIエージェントが、あるメソッドについて答えるために複数のファイルを読み込んだり、既存のテストと同じ形式で新しいテストを作成したりといった、比較的単純な作業を行う際にも、非常に多くのトークンを消費してしまう点だった。具体的には、ある機能に関する質問に答えるために5つのファイルを読み込む必要があったり、新しいテストコードを記述するために既存の20個のテストコードの形式を参考にしたりといった場面で、大量の情報がAIに渡され、結果としてトークン消費が跳ね上がっていたのだ。

エンジニアたちは、このような作業の多くは、AIにとって「高度な推論」を必要とするものではなく、単なる「入出力（I/O）」、つまり情報の読み書きや整理に近い作業であることに気づいた。複雑なロジックを考案したり、創造的な解決策を導き出したりする高度な推論であれば、高性能で高コストなAIモデルを使う価値は大いにある。しかし、単純なファイル読み込みや定型的なテストコードの生成といった作業に、高性能なAIモデルをフルに活用するのは、コストパフォーマンスが非常に悪いと考えたのだ。

そこで彼らが目をつけたのが、Spotifyの開発者向けプラットフォームである「Portal by Spotify」に搭載されている「AiKA Modes」という機能だった。Portal by Spotifyとは、エンジニアが日々の開発作業を効率的に進めるためのさまざまなツールやサービスを一元的に提供するプラットフォームだと理解すると良いだろう。このPortal by Spotifyの中に組み込まれたAiKA Modesは、AIの利用方法を細かく設定できる画期的な仕組みである。

AiKA Modesでは、AIにどのような指示を与えるか（プロンプト）、どのAIモデルを使用するか、AIの応答のランダム性を調整する「temperature」といったパラメーター、そしてAIが利用できる具体的なツール（例えば、特定のファイルを読み込むためのツールや、特定の形式でコードを生成するためのツールなど）を、「宣言的」に設定できる。宣言的とは、具体的な手順を一つ一つ指示するのではなく、「こうあってほしい」という結果や状態を記述することで、システムがその目標を達成するように動作するという意味である。つまり、エンジニアは「この種類の作業には、このAIモデルを使って、こういう指示を与え、このツールを使わせる」という一連の設定を一つのまとまりとして定義できるのだ。

この設定群は「エージェント」として登録され、Portal CLI（コマンドラインインターフェース）やAPI（アプリケーションプログラミングインターフェース）を通じて簡単に呼び出すことができる。これにより、エンジニアは特定の作業に応じて最適なAIエージェントを瞬時に切り替えて利用できるようになった。さらに重要なのは、これらのエージェントの実行環境が一時的に作られるという点だ。つまり、常に稼働している専用のサーバーを用意する必要がなく、必要な時にだけリソースが確保されるため、運用コストを大幅に削減できるというメリットがある。

Spotifyのエンジニアたちは、このAiKA Modesを活用し、単純なファイル読み込みや定型的なコード生成といった入出力作業を、Claude Codeのような高性能なAIモデルではなく、もっとコスト効率の良い別のAIモデルに任せるようにシステムを構築した。結果として、大量のファイル読み込みを別のAIエージェントに委譲するテストでは、Claude側のトークン消費を平均で約90%も削減することに成功したと報告されている。これは驚異的な削減率であり、AI活用の費用対効果を大きく改善したことを意味する。

このSpotifyの事例は、AIを単に導入するだけでなく、その使い方を工夫することで、より効率的かつ経済的にAIの恩恵を享受できることを示している。高性能なAIモデルは、その能力を最も必要とする高度な推論作業に集中させ、一方で単純な繰り返し作業や入出力処理は、コスト効率の良い別の手段に任せるという「AIの分業」戦略は、これからのシステム開発において非常に重要な考え方となるだろう。システムエンジニアを目指す皆さんにとって、AIの技術そのものだけでなく、AIをどのように設計し、運用していくかという視点も、これからのキャリアを考える上で不可欠な要素となるはずだ。