【ITニュース解説】On-device GenAI in Chrome, Chromebook Plus, and Pixel Watch with LiteRT-LM

システムエンジニアを目指す皆さんにとって、現代のテクノロジーが私たちの日常生活にどのように統合され、どのような仕組みで動いているのかを理解することは非常に重要である。近年、特に注目されている技術の一つが「オンデバイスAI」だ。これは、インターネット上の遠隔にある大規模なデータセンターに接続してAIを利用するのではなく、皆さんが手にしているスマートフォンやパソコン、スマートウォッチといったデバイスそのものの中でAI機能が動作する技術を指す。デバイス上でAIを動かすことには、クラウド経由でAIを利用する場合と比較して、いくつかの大きな利点がある。一つは、インターネット接続がない環境でもAI機能を利用できる点だ。もう一つは、個人情報を含むデータを外部に送信する必要がないため、プライバシー保護の観点から非常に安全性が高いことである。さらに、クラウドとの通信にかかる時間的な遅延がなくなるため、AIがより素早く、リアルタイムに近い応答を返せるようになるというメリットもある。

Googleは、このオンデバイスAIを広範囲に普及させるため、「Google AI Edge」という包括的な取り組みを進めている。Google AI Edgeは、開発者が様々なデバイス上でAI機能を効率的に実装し、実行するための多岐にわたるツールやフレームワークを提供するエコシステムである。そして、この取り組みの中で特に重要な進歩をもたらす技術として、新たに開発されたランタイム「LiteRT-LM」が発表された。

「ランタイム」という言葉は、システムエンジニアを目指す皆さんにとって基礎的ながら重要な概念である。これは簡単に言えば、プログラムやアプリケーションが実際に動作するために必要な環境を提供するソフトウェアのことだ。皆さんが作成したプログラムコードが、コンピュータのハードウェア上で実行可能な形に変換され、必要なシステムリソース（メモリやCPUなど）が管理される一連の処理を担うのがランタイムである。LiteRT-LMは、このランタイムの中でも特に「生成AI」と呼ばれる種類のAIモデルを、デバイス上で非常に効率的に実行することに特化して設計されている。

生成AIとは、テキスト、画像、音声など、これまでに存在しなかった新しいコンテンツを自ら「生成」する能力を持つAI技術の総称である。例えば、指示されたキーワードに基づいて文章を作成したり、質問に対して自然な言葉で応答したりする機能がこれに該当する。LiteRT-LMが効率的な実行を目指すのは、この生成AIの中でも特に複雑で大規模な「大規模言語モデル（LLM）」である。GemmaやGemini NanoといったGoogleが開発する最先端のLLMは、膨大な量のテキストデータを学習することで、人間のような高度な言語理解能力と文章生成能力を獲得している。これらのモデルは非常に高性能である反面、その動作には莫大な計算資源が必要となるため、スマートフォンやスマートウォッチといった限られた性能のデバイス上でこれらを動かすことは、これまでは技術的に大きな課題だった。

LiteRT-LMがこの困難な課題を解決する鍵となる技術的な特徴は多岐にわたる。まず、LiteRT-LMは「オープンソースのC++ API」として提供されている。オープンソースであるということは、そのソースコードが一般に公開されており、誰でも自由に利用し、必要に応じて改良や拡張ができることを意味する。C++は、性能と効率が最優先されるシステム開発で広く用いられるプログラミング言語であり、API（アプリケーションプログラミングインターフェース）は、開発者がLiteRT-LMの提供する機能やサービスを自身のアプリケーションから利用するための標準化された窓口となる。これにより、様々なアプリケーション開発者がLiteRT-LMの強力な機能を自身の製品やサービスに容易に組み込むことが可能となっている。

次に、「クロスプラットフォーム互換性」を有していることも大きな特徴である。これは、LiteRT-LMがWindows、macOS、Linuxといった一般的なデスクトップOSだけでなく、AndroidやiOSといったモバイルOS、さらには組み込みシステムのような特定用途のデバイスまで、非常に幅広い種類のハードウェアやオペレーティングシステム上で動作可能であることを意味する。この互換性があることで、開発者は一度LiteRT-LMを用いたAI機能を実装すれば、異なるデバイスや環境でも同じようにAIモデルを実行させることができ、開発コストと労力を大幅に削減できる。

さらに、「ハードウェアアクセラレーション」を強力にサポートしている点もLiteRT-LMの高性能を支える重要な要素だ。AIの計算処理は膨大であり、これをCPUのみで実行しようとすると非効率になりがちである。ハードウェアアクセラレーションとは、AIの推論や学習といった特定の種類の計算処理を、GPU（グラフィックス処理ユニット）やNPU（ニューラルプロセッシングユニット）といった、その処理に特化した専用ハードウェアに分担させることで、処理速度を劇的に向上させる技術である。LiteRT-LMはこれらの専用ハードウェアを最大限に活用し、大規模言語モデルのような計算負荷の高い処理をデバイス上で驚くほど効率的に実行することを可能にしている。

LiteRT-LMの最も革新的な側面は、「柔軟でモジュラーなアーキテクチャ」を採用していることである。アーキテクチャとはシステム全体の設計思想を指し、モジュラーとはシステムが独立した機能単位（モジュール）で構成され、それらを自由に組み合わせたり、交換したりできる設計を意味する。この柔軟性があることで、LiteRT-LMは、Webブラウザ「Chrome」や高機能ノートPC「Chromebook Plus」のように、複雑で多機能なAIタスクを高い性能で実行する必要があるデバイスにおいて、要求されるスケーラビリティ（拡張性）を提供できる。例えば、Webページの内容を要約したり、複雑な文章を作成したり、さらには画像生成を行うといった高度なAI機能を、これらのデバイスでスムーズに実現できるのだ。

その一方で、このモジュラーな設計は、処理能力やメモリ容量が限られた「Pixel Watch」のようなリソース制約の厳しいデバイスにも対応できるほどの「軽量さ」をも両立させている。つまり、デバイスの性能や用途に応じて、必要最低限の機能モジュールだけを組み込むことで、小さなデバイスでも生成AIの恩恵を受けられるようにシステムを最適化できるのだ。スマートウォッチ上でのメッセージに対する素早い返信候補の生成や、音声コマンドのより高度な理解などが、その具体的な応用例となる。

このように、LiteRT-LMが持つ多様なデバイスへの対応能力と効率性は、まさにオンデバイス生成AIの新たな潮流を生み出している。具体的な応用例としては、「WebAI」や「スマートリプライ」といった機能が既にユーザーの手元で利用され始めている。WebAIは、Webブラウザ内で直接AI機能を利用できるもので、例えば閲覧中のWebページの内容を瞬時に要約したり、ユーザーの入力に基づいて文章作成をサポートしたりすることが可能になる。スマートリプライは、受信したメッセージの内容をAIがリアルタイムで分析し、その文脈に合った返信候補を瞬時に提案してくれる機能であり、多くのユーザーがその利便性を日々実感しているだろう。

LiteRT-LMは、これらのような高度なAI機能を、ユーザーの身近なデバイスで実現するための非常に重要な基盤技術である。クラウドAIの限界であった通信遅延やプライバシーの懸念を克服し、より高速で安全、かつ広範なデバイスにAI体験をもたらす可能性を秘めている。システムエンジニアを目指す皆さんにとって、このような基盤技術がどのように設計され、いかにして多様なデバイスやアプリケーションに応用されているのかを理解することは、将来のシステム開発においてかけがえのない強みとなるだろう。デバイスの性能を最大限に引き出し、ユーザー体験を革新するこの分野の技術進化は、今後も継続的に注目していくべき分野である。