【ITニュース解説】Claude Fable 5 Hybrid Reasoning: Thinking vs. Speed Modes

Claude Fable 5は、Anthropic社が開発した大規模言語モデルの新しい推論エンジンであり、これまでのモデルとは異なる画期的なアプローチを採用している。従来の一般的な大規模言語モデル（LLM）は、どんな質問に対しても固定された計算能力で応答を生成していた。例えば、簡単な挨拶から高度な数学の証明まで、質問の複雑さに関わらず、次に来る単語を予測するプロセスを一定の速度で実行していたのである。しかしFable 5では、この考え方が大きく変わり、「思考」のプロセスが常にアクティブな状態を保ち、その深さを開発者が自由に調整できる「ハイブリッド推論」のフレームワークが導入された。

このモデルの核心的な技術革新は、最終的な回答を生成する前に、問題について「深く考える」能力が組み込まれている点にある。これは、あたかも人が難しい問題に直面した際に、まず頭の中で論理的な下書きや思考のステップを巡らせるのと似ている。モデルは質問を受けるとすぐに単語の予測を始めるのではなく、内部で「思考トークン」を生成し、段階的な推論プロセスをシミュレートする。この内部的な思考プロセスは常にオンの状態であり、システム側でオフにすることはできない。このアーキテクチャは、数学の問題、プログラミングコードの生成、複雑な論理評価など、高い正確性が求められるタスクにおいて、その性能を劇的に向上させることに成功している。

Fable 5では、アプリケーションの要件に応じて、この思考の深さを柔軟に制御できる機能が開発者向けに提供されている。これは「努力レベル（effort）」という単一の設定を通じて行われ、「low」「medium」「high」「xhigh」「max」のいずれかの値を選択する。例えば、「low」設定ではモデルは短時間だけ考え、迅速に回答を生成することで、応答速度とトークン消費を抑えることができる。一方で、「high」や「max」設定では、モデルはより深く推論するために多くの計算資源を投入し、難解な数学、多段階の論理、複雑なコード生成などのタスクで高い精度を発揮する。つまり、モデルの応答速度と思考の深さのバランスは、この「努力レベル」の選択によって完全に表現されるのであり、従来の「思考オン／オフ」のような切り替えスイッチは存在しない。古いAPIで使われていた「thinking: {type: "enabled"}やthinking: {type: "disabled"}」、「budget_tokens」といったパラメータはFable 5では廃止され、これらを使用しようとするとHTTP 400エラーが返される。

システムエンジニアがFable 5を実際のアプリケーションに組み込む際には、Anthropicの最新APIスキーマを使用する必要がある。推論の深さはAPIリクエストのoutput_configブロック内のeffortフィールドで設定する。思考プロセスそのものは自動的に実行されるため、通常はthinkingブロックを指定する必要はない。また、モデルが生成する最終回答の文字数制限（max_tokens）を設定する際には、特に高い努力レベルを選択した場合、思考トークンにも一定の文字数が消費されることを考慮し、最終回答のための十分な余地を残しておくことが重要である。

リアルタイムのチャットインターフェースのようなアプリケーションでは、モデルの応答をストリーミングで受け取ることが不可欠である。Fable 5は、思考のステップと最終的な内容の両方を、SSE（Server-Sent Events）チャネルを通じて出力する。ストリーム中、思考プロセスはcontent_block_deltaイベント内のthinking_deltaという形で提供される。開発者はこのdelta.thinkingから要約された思考内容を読み取り、最終回答は従来のtext_deltaから取得できる。思考の途中経過をユーザーインターフェースで表示するか、あるいは最終回答のみを表示するかは、開発者の判断に委ねられる。要約された思考内容を受け取るには、thinking: {type: "adaptive", display: "summarized"}というオプションを明示的に指定する必要がある。

コスト管理の観点から見ると、思考トークンも通常の出力トークンとして課金対象となるため、その消費量を慎重に管理する必要がある。不必要な思考処理サイクルを避けるためには、システムプロンプトの積極的なキャッシュが非常に有効である。例えば、同じような質問が頻繁に発生する場合、その質問に対する共通の背景情報や指示（プロンプト）を一度モデルに与えた後、その情報をキャッシュしておくことで、モデルが毎回最初から考える手間とコストを省くことができる。

Fable 5における努力レベルの選択は、アプリケーションの応答速度（レイテンシ）、運用コスト、そして回答の正確性という三つの重要な要素の間でのトレードオフを意味する。低い努力レベルでは、最初のトークンが出力されるまでの時間が短く、コストも抑えられるが、難しいタスクでの精度は標準レベルとなる。一方、高い努力レベルでは、最初のトークンが出るまでにモデルが深く考えるため時間はかかるが、数学、多段階論理、コード生成といった複雑なタスクでの正確性は著しく向上する。簡単な挨拶や意図分類のようなタスクでは「low」を、マルチファイルコード生成や財務・数学的推論、根本原因のデバッグのような高度なタスクでは「high」や「max」を選択することが推奨される。

具体的な例を挙げると、1日5万件の問い合わせを処理するサポートアシスタントを想定してみよう。すべてのリクエストを「low」努力レベルで処理する場合、思考トークンが少なく、比較的低コストで運用できる。しかし、すべてのリクエストを「high」努力レベルで処理すると、多くの思考トークンが消費され、運用コストは大幅に増加する。このコスト差は、多くの場合、必要以上に深く考えることに費やされた思考トークンに起因する。そこで、例えば事前に簡単な分類モデルを使って、本当に複雑な問い合わせのみを「high」努力レベルにルーティングし、残りのシンプルな問い合わせは「low」努力レベルで処理するといった戦略を採用することで、高い回答品質を保ちつつ、運用コストを大幅に削減できるのである。

Fable 5への移行において、最も大きな変化は、推論の深さがリクエストごとに設定できるダイヤルのようなものになった点である。総所有コストを予測可能に保つためには、タスククラスごとに最も低くても信頼性のある解決策を提供できる努力レベルを設定することが重要である。安易に「max」のような高い努力レベルを全リクエストに適用すると、予期せぬ高額な請求につながる可能性がある。また、頻繁に使用されるシステムプロンプトをキャッシュし、モデルが毎回同じ文脈を再処理しないようにすることも、コスト削減に大きく貢献する。リクエストごとの適切なルーティングとプロンプトキャッシュを組み合わせることで、本当に深い推論が必要な少数のリクエストにのみ、最大の費用が投入されるようになり、全体のコスト効率が向上する。

Fable 5は、大規模言語モデルの活用方法に新たな可能性をもたらす。システムエンジニアは、この「常にオンの思考」という強力な機能を理解し、その深さを適切に制御することで、より賢く、よりコスト効率の良い、そしてユーザー体験の優れたAIアプリケーションを設計し、構築できるのである。