【ITニュース解説】Ripple-65B Is an Open Coder With 1M Context. Its DGX Spark Script Stops at 128K

最近、人工知能（AI）の分野で大きな注目を集めているニュースとして、Ricursive Intelligence社が新しい大規模言語モデル「Ripple-65B Preview」を発表した。これは、AIがより賢く、より多くの情報を一度に扱えるようになるための重要な一歩を示すものであり、システムエンジニアを目指す人にとっても、今後の技術トレンドを理解する上で非常に興味深い内容となるだろう。

まず、「Ripple-65B Preview」とは何かについて説明する。これは「大規模言語モデル」（LLM）と呼ばれる種類のAIモデルの一つだ。LLMは、膨大なテキストデータから人間が使う言葉のパターンを学習し、文章を生成したり、質問に答えたり、プログラムコードを書いたりできる。モデル名の「65B」は、このモデルが650億個もの「パラメータ」を持っていることを意味する。パラメータとは、モデルが学習を通じて調整する内部の数値のことで、この数が多ければ多いほど、一般的にモデルは複雑な情報やタスクを処理する能力が高まるとされている。Ricursive社は、このモデルを12兆もの「トークン」（単語や記号の単位）からゼロから事前学習したと発表している。

このモデルの大きな特徴の一つは、「dense model（密なモデル）」である点だ。現在の大規模言語モデルには、大きく分けて「dense model」と「MoE (Mixture of Experts) モデル」の2種類がある。dense modelは、モデルが何かを処理する際に、そのすべてのパラメータを使って計算を行う。一方、MoEモデルは、全体のパラメータ数は非常に大きいものの、一つのタスクを実行する際にはその一部の「専門家」（エキスパート）と呼ばれる部分だけを使って計算する。Ripple-65Bがdense modelであるということは、650億全てのパラメータが常に稼働し、情報を深く処理することを目指していると言える。

さらに、Ripple-65Bは最大で100万（1M）トークンという非常に長い「コンテキストウィンドウ」をサポートするとされている。コンテキストウィンドウとは、モデルが一度に処理できる情報の長さのことだ。例えば、人間が会話をする際に、前の会話の内容をどれくらい覚えているか、ということに似ている。このコンテキストウィンドウが長いほど、モデルはより長い文書を理解したり、過去の大量の会話履歴を踏まえて回答を生成したりできるため、複雑なプログラミングタスクや大規模な文書解析などにおいて非常に有利となる。

Ricursive社は、このモデルの性能を様々なベンチマークテストで評価している。特に「Terminal-Bench 2.1」というテストでは80.5点という高いスコアを記録し、他の大手企業が開発したモデル（例えば5010億パラメータのReflection's Beamや8160億パラメータのMeta's Muse Spark Openなど）を上回ったと報じられている。しかし、この評価はRicursive社自身が実施したものであり、他社のモデルもそれぞれの開発元が自己申告したスコアとの比較である点には注意が必要だ。公平な第三者機関による統一された環境でのテストではないため、これらのスコアはあくまで参考値として捉えるべきだろう。実際、他のベンチマークテスト、例えば「SWE-bench Verified」や「DeepSWE 1.1」では、Ripple-65Bがトップではない結果も報告されている。

モデルはいくつかの異なる種類で提供されている。基本的な「Ripple-65B-Base-Preview」（基盤モデル）や、指示に直接応答する「Ripple-65B-Preview」（指示応答モデル）がある他、実験的なバージョンとして「Ripple-65B-Preview-NVFP4」というものも存在する。NVFP4は「量子化」と呼ばれる技術を用いたモデルで、これはモデルの精度を保ちつつ、必要な計算リソースやメモリを削減するための工夫だ。より少ないリソースでAIを動かすために重要な技術となる。また、このモデルは新しいアーキテクチャを採用しており、Hugging FaceというAIモデルの公開プラットフォームからコードとして入手できる。モデルを読み込む際には trust_remote_code=True という設定が必要になるが、これは提供されたコードをそのまま実行することになるため、セキュリティの観点から、信頼できる提供元からのみ利用することが重要だ。

このモデルの利用方法も複数存在する。最も手軽なのは、「OpenRouter」のような外部のAPIサービスを通じて利用する方法だ。この方法では、ユーザーは自身のコンピューターにモデルをダウンロードすることなく、インターネット経由でモデルの機能を利用できる。この場合、最大100万トークンのコンテキストウィンドウが利用可能となる。

一方で、より高度な利用やパフォーマンスを求める場合、Ricursive社が提供するスクリプトを使って、自身のコンピューター上でモデルを動かすこともできる。Ricursive社のサーバーでモデルを動かす場合、高性能なNVIDIA B200というGPUを2枚搭載した環境で、こちらも100万トークンのコンテキストウィンドウが利用できる。しかし、注目すべきは、NVIDIA DGX Sparkというデスクトップ型のAIワークステーションでモデルを動かす場合だ。このDGX Sparkは、GB10という新しいチップと128GBの統合メモリを持つ高性能なローカル環境だが、Ricursive社が提供する専用スクリプト「spark.py」では、コンテキストウィンドウが131,072トークン（約128K）に制限される。これは、ローカル環境でのメモリや計算リソースの制約に合わせて調整されているためだ。また、このローカルスクリプトは一度に一つのリクエストしか処理できず、HTTPサーバー機能を持たないため、既存のAIエージェントシステムと連携させるには追加の工夫が必要となる。

このモデルはまだ「Preview」版であり、「NVFP4」版は「Experimental」（実験的）とされている点も理解しておくべきだ。これは、今後さらなる改善や変更が加えられる可能性があることを示唆している。また、ベンチマークの結果がRicursive社自身の評価に基づいているため、独立した検証結果が待たれるところだ。ローカル環境、特にDGX Sparkのような高性能なデスクトップAIワークステーションで利用を検討している場合は、実際にどれくらいの速さでトークンを処理できるかを、128Kトークンに近い長いプロンプトで事前にテストしておくことが、具体的な作業計画を立てる上で非常に重要になる。

長いコンテキストウィンドウを持つモデルを活用する上で、「RAG (Retrieval Augmented Generation)」という技術も重要になる。これは、モデルが一度に扱える情報量には限りがあるため、外部のデータベースから関連性の高い情報を抽出し、モデルに渡すことで、より正確で詳細な回答を生成させる技術だ。ファイル全体をモデルに読み込ませるのではなく、本当に必要な部分だけを選んで与えることで、効率的にモデルの能力を最大限に引き出すことができる。

今回のRipple-65Bの発表は、より高性能で、かつ利用しやすいAIモデルの開発競争が激化している現状を示すものだ。システムエンジニアを目指す上で、このような最新のAIモデルがどのような特性を持ち、どのような環境でどのように動作し、どのような制約があるのかを理解することは、将来のシステム設計や開発において非常に役立つ知見となるだろう。