【ITニュース解説】SambaNova and Supermicro Partner on SN50 Chips for Disaggregated AI Inference

SambaNovaとSupermicroは、AIの推論処理に特化した新しいSN50チップの開発と展開に関して、重要なパートナーシップを発表した。この提携は、AI技術が社会に深く浸透し、より複雑な処理が求められる中で、現在のAIインフラストラクチャが直面している課題を解決しようとするものだ。特に、AIの推論を効率的に行うためのハードウェアの進化と、それらを取り巻く新しいアーキテクチャの登場を示唆している。

今回の提携の具体的な内容として、Supermicroはまず10,000個のSN50 RDU（Rasterized Dataflow Unit）を購入する計画だ。このSN50 RDUは、SambaNovaが開発したAI推論に特化した新しい種類のチップである。SupermicroはこれらのRDUを、既存のNVIDIA製GPU（Graphics Processing Unit）と組み合わせて、「Disaggregated AI Inference（分離型AI推論）」システムを構築することを目指している。これは、従来のAIシステムが主にGPUに依存していた状況から一歩進んで、異なる種類のハードウェアを組み合わせることで、AIの推論処理をさらに最適化しようという取り組みである。

SN50チップは、2026年2月に発表されたばかりの新しい技術である。SambaNova社の主張によれば、このチップは競合する他のチップと比較して、処理速度が5倍高速であり、総所有コスト（TCO：Total Cost of Ownership）を3分の1に削減できるという。総所有コストとは、製品やシステムの購入費用だけでなく、運用、管理、保守にかかるすべての費用を含めた合計額を指す。ただし、これらの数値はSambaNova社自身が発表したものであり、独立した第三者機関によって検証されたものではない点に注意が必要だ。しかし、もしこれらの主張が事実であれば、AI推論のコスト効率を大幅に改善する可能性を秘めていると言えるだろう。

SN50チップの内部アーキテクチャは、その高い性能と効率の背景にある。このチップは、最大10兆個ものパラメータを持つ巨大なAIモデルを保持できる3層メモリシステムを搭載している。AIモデルの規模が大きくなるにつれて、必要なメモリ容量も増大するため、これは非常に重要な特徴だ。また、最大256個のアクセラレータ（SN50チップを複数接続したもの）が、毎秒数十テラビットという非常に高速な帯域幅を持つインターコネクト（相互接続技術）を通じて連携できる。これにより、複数のチップが協力して、膨大な計算を並行して処理することが可能になる。

「Disaggregated AI Inference（分離型AI推論）」という考え方も、今回のパートナーシップの核となる概念である。これは、AIの推論処理をいくつかの段階に分け、それぞれの段階に最適なハードウェアを割り当てることで、全体の効率を高めようとするアプローチだ。例えば、最近注目されている「agentic workloads（エージェント型ワークロード）」と呼ばれるAIの利用形態がある。これは、AIが単一のプロンプト（指示）に応答するだけでなく、複数のツールを呼び出したり、複雑な思考プロセスを経て回答を生成したりするような、より高度で自律的なAIの動きを指す。このようなエージェント型ワークロードは、最初の入力（prefill compute）や中間結果の保持に多くの計算リソースとメモリ容量を必要とし、単一のチャット応答とは異なるリソース配分が求められる。分離型推論は、このような異なる要求に柔軟に対応し、GPUとRDUのような異なる専門性を持つチップを組み合わせることで、最適なパフォーマンスを引き出すことを目指す。

この新しい技術とシステムは、主に「neocloud（新しい形態のクラウド）」や「sovereign cloud（主権クラウド）」を提供するプロバイダーをターゲットとしている。これらのクラウドサービス事業者は、エンドユーザーにAIの計算リソースを「トークン単位」でレンタルしているため、ベンチマーク上の最高速度よりも「1ドルあたりでどれだけのスループット（処理量）を提供できるか」というコストパフォーマンスを非常に重視する。SN50 RDUの効率性とNVIDIA GPUとの互換性が組み合わされることで、これらのクラウドプロバイダーは、顧客に対してより低コストで高性能なAI推論サービスを提供できるようになるため、彼らの調達決定に直接的なメリットをもたらすことが期待される。

Supermicroの役割も、このパートナーシップにおいて非常に重要だ。Supermicroは、SN50チップ単体の性能だけでなく、それらのチップをNVIDIA GPUとともにラックに組み込み、システム全体として機能させる「ラックレベルでの統合」を担当する。どんなに高性能なチップであっても、システムとしての統合が不十分であれば、その性能を十分に引き出すことはできない。実際の運用現場では、チップの処理速度と同じくらい、システム全体の安定性や効率的な配置が重要になるため、Supermicroが持つシステム統合のノウハウが、この新しいAIインフラストラクチャの成否を左右すると言えるだろう。

今回の動きは、AI推論のためのハードウェアがGPU一辺倒だった状況から、さらに多様な専門特化型ハードウェアへと進化していることを示している。また、GPUとRDUのような異なる種類のチップを組み合わせた「ハイブリッドラック」の構成が、実験的な段階から実際に導入される標準的なシステムになりつつあることを意味する。AI技術に携わる者は、SambaNovaのようなベンダーが主張する性能向上やコスト削減の数値については、すぐに鵜呑みにせず、実際に自分たちのワークロードやアプリケーションでその効果を測定し、検証することが重要だ。また、neocloudサービスにおけるAIリソースのレンタル価格は、この新しい技術が実際にどの程度のコスト削減効果をもたらしているかを知るための、最も早く、信頼できる市場のサインとなるだろう。もしSN50チップの主張通りの性能とコスト効率が実現されれば、エージェント型アプリケーションの利用がさらに拡大し、AI推論を利用するあらゆるチームにとって、トークンあたりのコストが大幅に下がるという大きな恩恵がもたらされる可能性がある。