【ITニュース解説】StepFun Step 5 Preview: Pesos Abertos, MoE de 600B com 27B Ativos e Janela de 1M de Tokens

StepFunという研究機関が、Step 5 Previewという新しい人工知能モデルを発表した。このモデルの最も重要な特徴は、その「重み」（モデルの内部構造や学習結果）が「オープンウェイト」として公開されたことである。これは、企業や研究機関が、この最先端のモデルを自社のサーバーで動かし、自由にカスタマイズして利用できることを意味する。これまでの多くの高性能AIモデルは、特定の企業が提供するAPI（外部から利用するための窓口）を介してのみ利用可能で、データのプライバシーや利用規約の変更、予測不可能な応答速度などの制約があった。Step 5 Previewのようなオープンウェイトモデルの登場は、企業が自社の機密データを外部に送ることなく、高性能AIをセキュアに運用できるという大きなメリットをもたらす。

Step 5 Previewは、合計で6000億もの「パラメータ」を持つ大規模なモデルである。パラメータは、AIモデルが学習した知識やパターンを数値として保持する部分であり、その数が多いほどモデルの表現力や学習能力が高まると考えられる。しかし、このモデルは「MoE（Mixture-of-Experts）」という特殊なアーキテクチャを採用しているため、実際に一度に計算に利用されるパラメータは270億に限定される。MoEは、入力された情報に応じて複数の「専門家」（パラメータ群）の中から最適なものを選び、それらを組み合わせて処理することで、大規模モデルの計算効率を高める仕組みである。これにより、非常に大きなモデルでありながら、必要とされる計算リソースを効率的に抑えることが可能になった。

さらに、Step 5 Previewは「100万トークン」という非常に長いコンテキストウィンドウを持つ。トークンとは、モデルが情報を扱う際の最小単位で、単語や記号の一部に相当する。100万トークンは、一般的な書籍数冊分に匹敵する情報量であり、これだけ長い文脈を一度に理解し続ける能力は、複雑なプログラミングコードの分析、大規模なドキュメントの監査、多段階にわたる論理的な推論など、高度なエージェント（自律的にタスクを遂行するAI）の活動において不可欠である。

このモデルのアーキテクチャは、「狭く深い」（narrow but deep）と表現される。これは、モデルが92層という非常に多くの階層から構成されていることを指す。多くの層を積み重ねることで、モデルはより複雑で深い思考プロセスを実行できるようになる。92層の構造では、「Gated Sliding Window Attention（Gated SWA）」と「Gated Global Attention（Gated GQA）」という二種類の注意機構が組み合わせて利用される。Gated SWAは、文章全体ではなく、現在見ている情報の近くにある部分に限定して注意を向けることで、計算量を大幅に削減する。一方、Gated GQAは、長い文章の中で離れた場所にある情報同士の関連性を捉え、全体的な文脈を維持する役割を担う。このハイブリッドなアプローチによって、効率を保ちつつ、広範囲にわたる文脈を正確に理解できるようになった。

Step 5 Previewの高性能を支えるのは、独自のトレーニング方法である。人間が作成したデータだけでなく、複数のAIエージェントが協力して複雑な問題を解決する過程で生成された「合成データ」を大量に活用した。また、モデルが間違いを犯した際に、単に「正解・不正解」で評価するだけでなく、どの思考ステップが問題だったのかを詳細にフィードバックする「クレジット割り当て」という強化学習の手法を導入している。これにより、モデルは論理的な推論能力を向上させ、長期にわたるタスクでも自律的に間違いを修正しながら学習を進められるようになった。

国際的なベンチマークテストの結果も、Step 5 Previewの優れた能力を裏付けている。ソフトウェアのバグ修正やコード生成能力を評価する「SWE-bench」では、OpenAIのGPT-6 AstraやDeepSeek 4.1といった既存の最先端モデルをわずかに上回るスコアを記録した。さらに、高度な数学の問題解決能力や、複雑なタスクをエージェントとして実行する際の堅牢性においても、他社の主要モデルと同等か、それに近い非常に高い性能を示した。これらの結果は、Step 5 Previewが単に情報を生成するだけでなく、深く推論し、具体的な問題を解決する能力に優れていることを示している。

このモデルは、BF16、FP8、NVFP4といった異なるデータ精度形式で提供されており、特にNVFP4という形式では、約340ギガバイトという比較的少ないグラフィックメモリ（VRAM）で動作できる。これにより、企業は数枚の高性能なグラフィックカード（例えばHopperまたはBlackwell世代のアクセラレーター）を組み合わせるだけで、この大規模モデルを自社のインフラ上で動かすことが可能になる。実用例として、集積回路の設計言語であるVerilogのコード生成と検証の自動化において、Step 5 Previewが設計エラーを大幅に削減し、検証にかかる工数を劇的に短縮できることが示された。これは、モデルの深い推論能力が、高度な技術分野においても革新的な効果をもたらす可能性を示唆している。

モデルの効率的な運用には、vLLMやSGLangといった高速なAI推論フレームワークや、大規模な計算資源を管理するためのKubernetesのようなオーケストレーション技術が活用される。これらの技術と連携することで、Step 5 Previewは多数のユーザーからのリクエストを同時に処理し、高速に応答できる。また、GPUメモリの利用効率を高めるためのカスタム最適化や、複数のGPUやサーバー間でデータを効率的にやり取りする高度な並列処理技術も導入されている。

StepFunによるオープンウェイトモデルの公開は、AI技術の民主化とイノベーションを加速させる重要な動きである。高性能なAIモデルの内部が公開されることで、世界中の開発者や研究者がその技術を詳細に分析し、改良し、新たな応用を模索することが可能になる。これは、AI技術の透明性を高め、特定の企業に技術が集中することを防ぎ、より広範な技術革新を促進する。Step 5 Previewは、テキストだけでなく画像や図面も組み合わせて理解する「マルチモーダル」な能力も持ち、長い文書の中から特定の情報を見つけ出す能力も非常に高い。システムエンジニアを目指す人々にとって、このモデルは将来的にAIを開発ツールや強力なアシスタントとして活用するための、大きな可能性を秘めた選択肢となるだろう。自社環境で高性能AIを運用できることは、データの主権とセキュリティを守りながら、最先端のAI技術を最大限に活用するための重要な一歩となる。