【ITニュース解説】Cinnamon / kotaemon

株式会社シナモンAIが開発したオープンソースツール「kotaemon」が公開された。これは、手元にあるPDFやWordといった文書ファイルの内容について、チャット形式で質問し、対話できるシステムを構築するための開発キットである。近年注目を集める生成AI技術を活用し、企業内の文書検索や顧客対応の自動化など、多様な応用が期待される。

kotaemonの中核をなすのは「RAG（Retrieval-Augmented Generation、検索拡張生成）」と呼ばれる技術である。この技術を理解することが、kotaemonの価値を把握する上で極めて重要となる。RAGは、ChatGPTに代表される大規模言語モデル（LLM）の能力を、特定の文書情報に基づいて拡張するための手法である。LLMは膨大なテキストデータから学習し、人間のように自然な文章を生成できるが、いくつかの弱点も抱えている。例えば、学習データに含まれていない最新の情報や、社内規定のような公開されていない専門知識は持っていない。また、事実に基づかない情報を生成してしまう「ハルシネーション」という課題も存在する。RAGは、これらの課題を解決するために考案された技術であり、その仕組みは主に二つの段階から構成される。第一に、ユーザーからの質問に関連する情報を、あらかじめ用意しておいた文書データベースから検索（Retrieval）する。第二に、その検索で得られた情報（コンテキスト）と元の質問をセットにしてLLMへ渡し、その情報に基づいて正確な回答を生成（Generation）させる。このプロセスにより、LLMはまるでその文書を熟読したかのように、根拠に基づいた的確な回答を返すことが可能になる。

kotaemonは、このRAGを用いたシステムを開発者が容易に構築できるよう設計されている。最大の特徴の一つは、その高いカスタマイズ性を実現するモジュール設計にある。システムを構成する「文書から情報を検索する部分」「LLMが回答を生成する部分」「検索結果の精度を高める部分」「処理速度を向上させるキャッシュ」といった各機能が、独立した部品（モジュール）として提供されている。これにより、開発者はまるでブロックを組み合わせるように、必要な機能だけを選んでシステムを構築したり、特定の部品を自作のものや他のサービスに差し替えたりすることが可能になる。例えば、検索エンジンにはA社の技術を使い、回答生成にはB社のLLMを使う、といった柔軟な構成が実現できるため、特定の技術やベンダーに縛られることなく、プロジェクトの要件に最適なシステムを設計できる。

また、kotaemonは特定のLLMに依存しない「LLMアグノスティック」な設計となっている。OpenAI社のGPTシリーズ、Anthropic社のClaude、Microsoft社のAzure OpenAI Serviceなど、様々なLLMと連携させることが可能である。これにより、開発者はコスト、性能、セキュリティ要件などに応じて、最適なLLMを自由に選択できる。新しい高性能なLLMが登場した際にも、システムの一部を変更するだけで容易に対応できるため、将来的な拡張性も確保されている。

さらに、実用的なシステム開発において不可欠な機能も備えている。その一つが、構築したRAGシステムの性能を評価する機能である。AIが生成した回答が、元の質問に対してどれだけ正確で適切かを客観的な指標で測定することができる。システム開発では、作ったものが要件を満たしているかを確認する「テスト」や「評価」の工程が非常に重要であり、この評価機能はシステムの品質を保証し、継続的な改善を行う上で欠かせない。また、多様なドキュメント形式に対応している点も実用的である。ビジネスの現場で広く使われているPDF、Word（.docx）、PowerPoint（.pptx）などのファイルを直接読み込み、対話の対象とすることができるため、事前のデータ変換の手間を大幅に削減できる。

このように、kotaemonは単なるチャットツールではなく、開発者が独自の対話型AIアプリケーションを迅速に構築、評価、改善するための強力なフレームワークである。オープンソースとして公開されているため、誰でも無料で利用でき、ソースコードを自由に調査・改変することが可能だ。システムエンジニアを目指す者にとって、kotaemonのようなツールに触れることは、生成AIとRAGの仕組みを実践的に学び、AIを活用したシステム開発のスキルを習得するための絶好の機会となるだろう。