【ITニュース解説】The Model Changed Again — and Your Whole Product Is Just a Harness Around It

最近のソフトウェア開発の世界では、人工知能（AI）が非常に重要な役割を担うようになった。特に、ChatGPTのような大規模な言語モデル（LLM）が登場して以来、多くの企業が自社の製品やサービスにAIモデルを組み込んでいる。このような状況を表す言葉として、「あらゆるSaaSビジネスはモデルを囲むハーネスになる」という考え方がある。これは、単なる未来の予測ではなく、すでに多くのIT企業が直面している現実を言い表している。

ここで言う「ハーネス」とは何か。ハーネスは、馬を馬車につなぐためのストラップやバックル、車軸などの道具一式を指す。馬の力を使って馬車を動かすには、馬そのものだけでなく、その力を効率的に馬車に伝えるハーネスが不可欠だ。この比喩で言えば、AIモデルが「馬」、そしてそのAIモデルの力を最大限に引き出し、製品やサービスとしてユーザーに提供するための仕組み全体が「ハーネス」に当たる。ハーネスは特定の馬にフィットするように作られるため、馬が別の種類に変わってしまうと、古いハーネスは価値を失うか、調整が必要になる。

ソフトウェア製品におけるハーネスの具体的な要素としては、AIモデルの生の出力をユーザーにとって役立つ形にするための「プロンプト」（AIへの指示文）や「オーケストレーション」（複数のAI処理を連携させる仕組み）が挙げられる。また、AIモデルの出力が十分に品質基準を満たしているかを判断するための「評価（evals）」システム、モデルがエラーを起こした際に再試行したり、代替手段に切り替えたりする「リトライ」や「フォールバック」の仕組みも含まれる。さらに、ユーザーがAIモデルの複雑な内部構造を意識せずに使えるようにする「ユーザーインターフェース（UX）」、そしてこれらの要素を組み合わせて、顧客が料金を支払ってでも利用したいと思うような一連の「ワークフロー」もハーネスの一部だ。

問題は、これらのハーネスの価値が、基盤となるAIモデルに強く依存している点にある。ハーネスを開発した企業は、AIの「知能」そのものを作ったわけではなく、その知能を自社の製品に「フィットさせる」部分を作ったに過ぎない。もしAIモデル自体が変わってしまうと、このフィット感が失われ、これまで価値があったハーネスが無価値になるか、大幅な修正が必要になる可能性がある。

AIモデルが変更されると、具体的に何が壊れるのだろうか。一つ目は「評価（evals）」システムだ。開発者は、特定のAIモデルAの弱点や失敗パターンに合わせて評価基準を調整している。しかし、新しいAIモデルBはモデルAとは異なる方法で失敗する可能性があるため、モデルAで94%の合格率を示していた評価スイートが、モデルBでは全く異なる、あるいは無関係なものを測定してしまう事態が発生する。

二つ目は「コスト」だ。AIモデルの利用料金は、処理するデータの量（トークン数）に応じて決まることが多いが、モデルやそのバージョンが変わると、トークンあたりの料金体系も変動する可能性がある。これまでわずかに利益が出ていたワークフローが、一夜にして採算が合わなくなることもあり、その事実に請求書が届くまで気づかないというケースもあり得る。

三つ目は「ガードレール」（安全性やセキュリティ対策）だ。プロンプトインジェクション（AIに意図しない動作をさせる不正な指示）からシステムを守るための防御策は、特定のAIモデルが指示に従う方法を前提として作られている。新しいモデルが登場すると、これまで想定していなかった脆弱性や、モデルを「脱獄」させる新たな方法が見つかり、本番環境で予期せぬ問題を引き起こす可能性がある。

このような問題は、特に国境を越えたサービス展開を行う場合にさらに複雑になる。複数の地域で異なる第三者APIを連携させる必要があり、それぞれがコントロールできない依存関係となる。また、時差のため誰も監視できない時間帯にシステムが稼働することもあり、深夜に発生した問題を誰も検知できないリスクがある。さらに、国際ビジネスでは利益率が薄いことも多く、AIモデルのコストが20%変動するだけで、ビジネスの継続が困難になることもある。しかも、AIモデルの変更は一度きりのイベントではなく、頻繁に、継続的に発生する。ローカルモデル、オープンソースモデル、デスクトップ向けモデルなど、その変化のペース自体が大きなリスクとなる。

では、このような変化の激しい状況にどう対応すればよいのだろうか。AIモデルという「川」の流れを避けることはできないが、その変化に驚かないように準備することはできる。

まず重要なのは、「フィット」を正確に測定することだ。単に「良い感じ」で動いているかではなく、定期的に複数のAIモデルに対して同じ評価スイートを実行し、どのモデルに製品がどれだけ依存しているかを数値で把握することが求められる。

次に、「スワップシーム」を構築することだ。もしAIモデルを変更することが、製品全体を書き換えるような大がかりな作業になってしまうなら、それは製品ではなく「人質」を抱えているようなものだ。AIモデルの呼び出し部分を抽象化し、モデルの種類やバージョンが変わっても、製品の他の部分に大きな影響を与えずに切り替えられるような設計を目指すべきだ。

また、コストを「トークンあたりのコスト」ではなく、「価値単位あたりのコスト」で追跡する意識を持つ必要がある。例えば、一つの顧客からの問い合わせを解決するのにどれくらいのコストがかかっているか、といった視点だ。AIモデルの料金体系が変わっても、製品が提供する価値に対してどれくらいの費用がかかるのかを把握していれば、価格変動に対応しやすくなる。

さらに、AIモデルは常に変更され、機能が停止したり、性能が低下したりする可能性があると「仮定する」ことが重要だ。あらゆるAIモデルのエンドポイントは一時的な「賃貸」のようなものだと考え、常に代替となる「フォールバックパス」を用意し、いざという時に切り替えられるように準備しておくべきだ。

そして最も重要なのは、製品の「 moat（堀）」、つまり競合他社が簡単に真似できない強みを、この「ハーネス」と、そのさらに上の層に築くことだ。ハーネスは、AIモデルの能力をビジネス価値に変換する場所であり、今日のビジネスにおいて利益を生み出す主要な部分となっている。どの業務をAIで自動化すべきか、AIのどの出力を信頼すべきかといった、開発者の「センス」や「判断力」こそが、AIモデルの変化の波に洗い流されることなく、製品の価値を維持し続けるための真の強みとなる。

AIモデルは今後も変わるだろう。おそらく、今四半期中にまた新しいモデルが登場するかもしれない。重要なのは、あなたの「船」（製品）がAIモデルの変更によって揺さぶられるかどうかではない。船の船体を「川」（AIモデル）に縛り付けているのか、それともどんな流れにも対応できる、自力で「浮く」ことができる船を作っているのか、ということだ。