【ITニュース解説】AI Won’t Be Priced by Tokens Forever

現在のAIサービスは、情報を処理したり生成したりする際に消費される「トークン」という単位で料金が計算されている。このトークンは、AIが扱う文字や単語のまとまりのようなものだと考えると良い。しかし、この記事は、このトークンによる料金設定が将来的に変わるだろうと指摘している。新しい技術が登場する時、その初期段階では、技術者が最も測定しやすいもので料金が設定される傾向がある。例えば、電気が普及し始めた頃は「キロワット時」、電話サービスは「通話時間」、そしてクラウドコンピューティングの初期は「CPUの数」や「メモリの量」などで利用料が決められた。AIにおけるトークンも、これらと同じく、今のところはAIの計算量を測定する上で最も分かりやすい指標として使われているのである。

現時点では、トークンによる料金設定は合理的だ。AIサービスを提供する側は、コンピューターの計算にかかる費用を請求する必要があり、AIを利用する開発者も、どれくらいの費用がかかるかを事前に見積もる方法が必要だからだ。入力される情報量やAIが生成する情報の量を示すトークンは、双方にとって基準として役立つ。しかし、これは業界がまだ手探りの段階にあるからこその指標であり、長期的に見れば変わっていく可能性が高い。なぜなら、誰も「今日、あと4000万トークンを消費してビジネスを改善しよう」とは考えないからだ。人々が本当に求めているのは、「具体的な仕事を達成すること」であり、トークンはその仕事を達成する過程で消費される「燃料」のようなものに過ぎない。

この変化は、クラウドコンピューティングが辿ってきた道とよく似ている。クラウドの初期には、企業は「CPUのコア数」「メモリの容量」「ストレージのディスク容量」「ネットワーク帯域幅」といった、物理的なインフラに近い単位でサービスを購入していた。これらは技術者が直接測定できる具体的な数値だった。しかし、クラウドが成熟するにつれて、開発者たちは個々のサーバー管理から解放され、「マネージドデータベース」のような、より高度な機能を提供するサービスを利用するようになった。裏側でインフラがなくなったわけではないが、それはもう「顧客が直接買うもの」ではなくなったのだ。つまり、技術の抽象度が一段上がり、顧客は「具体的な作業の代行」や「便利な機能」にお金を払うようになった。AIも同じような移行期にあるとこの記事は示唆している。

現在、ほとんどの主要なAIプラットフォームは、入力と出力のトークン量に基づいて料金を提示している。これは、異なるAIモデルの料金を比較する上では便利だ。しかし、トークンにかかる費用が、そのAIシステムがもたらす「真の価値」をどれだけ示しているかというと、実はそうでもない。顧客は、会議の要約にどれだけのトークンが使われたかには関心がなく、その要約が「役に立ったかどうか」を知りたい。契約書の分析に何トークン消費されたかではなく、「重要な条項が正確に特定されたか」が重要なのだ。トークンは、コンピューターがどれだけ計算を消費したかを示す指標であって、顧客が求める「完了した仕事」や「具体的な成果」とは異なるものなのだ。もちろん、消費量と成果は関連しているが、全く同じではない。

ここで経済的な側面が面白くなる。AIシステムの改善の中には、トークン消費量を増やすどころか、むしろ減らすことでより有用になるものが多く存在する。例えば、「より良いプロンプト（AIへの指示文）」は、少ない情報量でも質の高い回答を引き出せる。不要な情報を毎回AIに送るのを避ける「より良い情報検索」もトークンを節約する。単純な作業は「小さくて安価なモデル」に、複雑な作業は「高性能なモデル」に振り分ける「賢いルーティング」も有効だ。また、モデルの軽量化技術を使えば、同じハードウェアでより多くのリクエストを処理できる。さらに、企業固有の知識をモデル自体に学習させる「事後学習」を行えば、毎回同じ情報をプロンプトに添付する必要がなくなり、大幅なトークン節約になる。これらの改善は、顧客の体験を悪化させるどころか、システムをより良くしながら計算量を減らすため、非常に有効だ。しかし、AIサービスのビジネスモデルが「顧客が多くのトークンを消費するほど収益が上がる」という構造だと、このような効率化は「収益の問題」と見なされてしまうかもしれない。これに対して、「顧客が少ないインフラでより多くの成果を達成するほど収益が上がる」というビジネスモデルならば、効率化こそが製品の価値となる。これらは全く異なるビジネスのアプローチである。

同じ100万トークンを消費したとしても、得られる価値はシステムによって大きく異なる可能性がある。例えば、あるAIシステムは、常に無関係な情報を送り、誤った情報を取得し、不必要に大きなモデルを使い、ようやく有用な結果を出すまでにかなりの修正を必要とするかもしれない。一方で、別のAIシステムは、適切なモデルに適切な情報を効率的に与え、すぐに正確な答えを導き出す。どちらも同じ100万トークンを消費しているが、そのシステムの質や効率は全く違う。このことが、トークンによる価格設定が「価値を測る指標」として徐々に役立たなくなる理由であるとこの記事は説明している。AIモデルそのものも重要だが、そのモデルを取り巻くソフトウェアが、有用な情報を供給するのか、それとも無関係な情報をふるいにかける手間をかけさせるのかを決定する。また、各タスクを最適なモデルに振り分けることで、結果に貢献しない高価な計算を避けることもできる。顧客が最終的に体験するのは、トークンのカウンターではなく、システム全体の性能と成果なのだ。

AIが企業のインフラの重要な一部となるにつれて、企業は単なる「消費量」ではなく、より上位の問いに基づいて購入を決定するようになるだろう。例えば、セキュリティ、特定のワークロードへの対応能力、生産性の向上といった、価格ページに「100万トークンあたりXドル」と書きにくい質問が増えてくる。しかし、これらの質問こそが、顧客が実際に気にしていることなのだ。さらに、AIが集中型のクラウドAPIだけでなく、企業が自社で管理するインフラや、高性能なノートパソコンやワークステーション上で直接実行される「ローカルAI」の台頭も、トークン課金の意味合いを薄れさせる。自社でハードウェアを所有している場合、すでにその設備費用を支払っているため、トークンごとに請求されるわけではない。この場合、重要なのは、その投資が十分に役立つ仕事を生み出しているか、という点になる。エンジニアは引き続き性能理解や非効率性の発見のためにトークンを数えるだろうが、トークン量だけではビジネスがそのシステムから価値を得ているかを判断できなくなる。

この記事は、トークンという概念が完全に消えるわけではないと述べている。クラウドプラットフォームがマネージドサービスへと移行しても、CPUの使用率が消滅しなかったり、開発者が手動でディスクをプロビジョニングしなくなってもストレージの概念が消えなかったりしたのと同じである。帯域幅も依然として重要な指標だ。これらの指標は、裏側でインフラを運用する人々にとっては非常に重要であり続けている。トークンも同様に、エンジニアにとっては、コスト最適化、コンテキスト管理、推論の効率、システム設計といった面で重要な指標であり続けるだろう。しかし、顧客がAIを評価する基準は、次第に「そのAIは何を達成し、その成果にはどれだけの費用がかかったのか」という、より高次の抽象的なものへと変化していく。

結論として、最も価値のあるAIシステムは、必ずしも大量のトークンを生成するものではない。そうではなく、最小限の摩擦と最高の効率で、最も良い成果を届けるシステムが評価されるようになるだろう。トークンは有用で、測定可能であり、運用上も重要だ。しかし、それ自体が「製品」ではない。CPUの使用時間がかつてそうであったように、トークンは、業界が顧客が本当に求めていた「役立つ仕事」に対して、より良い価格設定ができるようになるまでの、一時的な測定器に過ぎないのである。