【ITニュース解説】Sloth Brief — let a local model read the notes you keep postponing

Sloth Briefは、溜まってしまいがちなテキストメモを、短く、そして行動に直結する要約に変換するツールである。多くの人がタスクを再開する際に、以前のメモを読み返すのに時間を費やしてしまうが、このツールはその手間を減らし、「ゆっくり着実に」タスクを進める手助けをすることを目的としている。

このツールの最大の特徴は、AI（人工知能）モデルをユーザーのコンピュータ上で直接実行する点にある。具体的には、Hugging Face TransformersというAIモデルを動かすためのフレームワークと、Qwen2.5-0.5B-Instructという比較的小さなAIモデルを組み合わせて利用している。Ollamaという別のツールも選択肢として挙げられているが、デモではQwen2.5-0.5B-Instructが直接使われている。これにより、インターネット経由で有料のAIサービスを利用したり、アカウント登録をしたりする必要がなく、メモの内容をクラウドにアップロードすることも一切ないため、利用者のプライバシーが守られる。Sloth Briefを初めて起動するときだけ、AIモデルのデータ（「重み」と呼ばれる）をインターネットからダウンロードするが、それ以降はコンピュータのローカルに保存されたデータを使ってAIが動作するため、オフラインでも利用できる。

実際のデモンストレーションでは、Sloth Briefの動作を具体的に確認できる。まず、必要なソフトウェアをインストールし、デモ用のスクリプトを実行する。デモには、架空の二つのメモが用意されている。一つは、ドキュメントの「インストールセクションを公開前にレビューする必要がある」という内容。もう一つは、「CSVインポーターが空のファイルでエラーになるので、回帰テストを追加して修正を待つ必要がある」という内容である。Sloth Briefはこれらのメモを読み込み、それぞれの内容から簡潔な要約を生成する。出力結果は、「インストールセクションを公開前にレビューする。」、そして「空のファイルでCSVインポーターの障害を再現し、回帰テストを追加し、修正を待つ。」となる。それぞれの要約には、元のメモがどれであるかを示す「ソース」番号が付けられており、後から元のメモを簡単に確認できるようになっている。

Sloth Briefは、オープンイノベーションの精神に基づいて開発されている。使用されているQwen2.5-0.5B-InstructというAIモデルは、Apache-2.0ライセンスというオープンソースのライセンスで公開されており、誰でも自由に利用・改変できる。また、Hugging Face TransformersやPyTorchといった、AIモデルを動かすためのソフトウェアもオープンソースである。これにより、利用者はSloth Briefのアプリケーションのコードを自由に検査し、もし必要であれば搭載されているAIモデルを別のモデルに置き換えたり、費用を気にすることなくメモを処理したりすることが可能となる。Sloth Brief自体のコードもMITライセンスという非常に自由度の高いライセンスで公開されている。このツールは、意図的に高性能なコンピュータを必要とせず、一般的なCPUでも動作するように設計されており、一度に処理できるメモの数も最大五つと制限されている。これは、大規模なAIエージェントのように何でもできるツールを目指すのではなく、特定の目的に特化した小型で使いやすいツールを目指しているためである。

開発の過程では、いくつかの課題に直面し、それを乗り越えることで現在の形になっている。初期のバージョンでは、AIモデルに「JSON形式でアクションリストを生成してください」と指示していた。しかし、この方法では、生成されたJSONデータに同じキーが重複したり、元のメモへの参照が正しくなかったりする問題が発生した。そこで開発者はアプローチを変更し、AIモデルには各メモに対して一つの簡潔な要約だけを生成するように指示することにした。そして、どの要約がどのメモに対応するかを示すソース番号は、Pythonのプログラムが元のメモの内容に基づいて自動的に割り当てるようにした。この変更によって、どの要約がどのメモから作られたのかは確実に分かるようになったものの、AIが生成した要約が常に元のメモの内容を完全に忠実に反映しているとは限らない点には注意が必要である。AIモデルは指示を誤解したり、重要な詳細を省略したりする可能性もあるため、デモで示された結果はあくまで検証された一例であり、あらゆるメモで常に完璧な要約が保証されるわけではない。利用者は要約を鵜呑みにせず、必要に応じて元のメモを確認することが推奨される。

システム全体の安全性と機能の境界も明確に設定されている。Sloth Briefは、入力されたメモファイルを直接編集することは決してなく、生成された要約は必ず新しいファイルとして出力される。また、一度に処理できるファイルの数や内容のサイズには上限が設けられており、システムに過度な負荷がかからないようになっている。メモの内容が変更されていないかを確認するために、ソースハッシュという技術を使ってメモのバージョンを識別する仕組みも導入されている。AIモデル自体には、外部のツールを実行したり、コンピュータのシステムコマンドを実行したりする権限は一切与えられていない。そのため、たとえ悪意のある内容のメモが入力されたとしても、それが要約に影響を与える可能性はあるものの、このアプリケーションを通じてAIがコンピュータ上で何かを勝手に実行してしまうような危険はない。このツールの目的は、過去のメモを全て読み直す代わりに、タスクを再開する際の短いチェックリストを提供することであり、具体的な生産性の向上を数値で測定するようなものではなく、このプロトタイプは二つの架空の例でそのワークフローを示している。

Sloth Briefは、AIアシスタンス（Codexなど）の力を借りて開発されたものであり、コードの作成やドキュメントの記述にもAIが活用されている。デモで示されたAIモデルの動作は、実際にユーザーのコンピュータ上で、公開されたAIモデルのデータを使って実行された結果であり、偽りの応答ではない。また、開発過程で顧客のデータが使用されることもなかった。