【ITニュース解説】Smarter Notifications with Edge AI: A Kotlin + Koog + MediaPipes Journey

この記事は、スマートフォンなどのデバイス上で人工知能（AI）を活用し、アプリの通知をより賢く、ユーザーの状況に合わせたものに進化させる実験について解説している。従来のアプリ通知は、あらかじめ決められた内容が固定の時間に送られるため、ユーザーの状況と合わず、やがて無視されがちになるという課題があった。例えば、ジムで運動中に水を飲むことを勧められたり、寒い日に紅茶ではなく水を勧められたりするなど、通知がユーザーの現在の行動や気分、既に記録した情報、時刻といった「文脈（コンテキスト）」を考慮していないため、その有効性が低いと感じられていた。

この課題を解決するため、開発者は「コンテキストを考慮した、よりパーソナルで適切な通知」をデバイス上で動的に生成するシステムを考案した。これは、静的なメッセージを単に増やすのではなく、AIを使ってユーザーの状況に「反応する」通知を実現しようとする試みである。このような動的なメッセージ生成は、大規模なコード修正では対応しきれないが、言語モデルの得意分野である。

この実験では、JetBrains社が開発した「Koog」というエージェントフレームワークと、Googleの「MediaPipe LLM Inference API」、そしてAndroidデバイスで動作する小規模な言語モデル「Gemma LLM」を組み合わせた。Koogは、AIが人間のように状況を理解し、判断し、行動するのを助ける「エージェント」を構築するための枠組みである。単にAIに質問を投げかけるだけでなく、Koogはデータにアクセスし、適切なツールを使い、意思決定を行い、生成された内容の安全性を確認するといった一連の処理をオーケストレートする。この実験では、通知を受け取った際にKoogがエージェントを起動し、ユーザーやデバイスのコンテキスト情報を集め、それに基づいて通知メッセージを生成し、さらに安全性をチェックするという流れを担う。

一方で、MediaPipe LLM Inference APIは、Androidデバイス上で直接、言語モデルを高速に実行するための技術である。これは、AIモデルをスマートフォンに読み込み、メモリを管理し、テキストを生成するといった、実際のAI処理の実行部分を担当する。つまり、Koogが「何を判断するか」という頭脳の部分を担い、MediaPipeが「その判断に基づいて実際にAIを実行する手足」のような役割を果たす。この二つの技術は重複するものではなく、互いに補完し合う関係にある。

このシステム設計において、開発者は「ハイブリッドアーキテクチャ」を採用した。これは、普段はデバイス上で動作する小規模言語モデル（SLM）を使い、必要に応じてクラウド上の大規模言語モデル（LLM）をフォールバックとして利用するという構成である。デバイス上でAIを動かす「エッジAI」のアプローチは、AI処理をより高速にし、コストを削減し、さらにユーザーのプライバシー保護にも優れているというメリットがある。ユーザーの個人情報がデバイス外に送信されることなく、通知が生成されるため、セキュリティ面でも安心できる。

プロトタイプでは、ユーザーの現在地、時間、天気、季節、食事の記録状況、モチベーションレベル、食事制限などの多様なコンテキスト情報が入力として用いられる。これらの情報は「データ転送オブジェクト（DTO）」という形式で言語モデルに渡され、それに基づいて通知のタイトル、本文、カテゴリ、言語などが生成される。例えば、「今日のペースは良いですね。ランチも記録済みなので、軽い夏の軽食—ガスパチョか桃入りヨーグルト—で、このまま元気に動き続けましょう💪」といった、より具体的でパーソナルなメッセージが生成されることを目指した。

実際の開発では、KoogとMediaPipeの統合に課題も見られた。MediaPipeはモデルの初期読み込みに時間がかかり、Koogが想定する常時接続されたリモートAPIとは異なる動作をするためである。しかし、MediaPipeのAI実行セッションをアプリの主要な動作と連携させ、Koogに準備完了状態を伝えることで、この問題は解決可能だとされている。また、言語モデルを通知のためだけに利用するのはデバイスのリソースに対して過剰かもしれないが、将来的には複数のオンデバイスAIタスクに活用することでその価値は高まるとしている。

この新しい通知システムが実際に効果があるかどうかを評価するため、開発者は綿密なテスト計画も立てている。例えば、特定の状況を想定した「ゴールデンセット」と呼ばれる50のシナリオを用意し、システムが適切に反応するかどうかを確認する。また、生成されたメッセージの長さ、絵文字の数、地域設定、禁止語句の有無などをチェックし、安全で読みやすく、文化的に適切な通知が作成されているかを検証する。さらに、従来の定型文通知とAI生成通知を比較するA/Bテストを実施し、通知からのアプリタップ率や食事記録までの時間などを測定することで、ユーザーへの実際のメリットを定量的に評価する。

この実験は、デバイス上でのAI活用が、単なる技術的な進歩だけでなく、ユーザー体験を根本的に向上させる可能性を秘めていることを示している。将来的には、より詳細なコンテキストの注入、AIモデルのさらなる調整、翻訳機能の追加、さらなる安全性チェックの強化、そしてリモートのAIモデルへのフォールバック機能の実装などが計画されている。これらの取り組みを通じて、スマートフォンは単なる情報受信デバイスから、ユーザーの生活に寄り添い、パーソナルなサポートを提供する真のスマートデバイスへと進化していくことが期待される。