【ITニュース解説】City Simulation with LLMs — Predicting Traffic & Generating Natural-Language Reports

このプロジェクトは、都市の交通状況をリアルタイムで把握し、その情報を分かりやすく伝えるためのシステム構築について述べている。都市の交通量シミュレーションを行い、センサーデータから交通渋滞を予測し、その予測結果を大規模言語モデル（LLM）を使って人間が理解しやすい自然言語のレポートとして自動生成する点が大きな特徴である。

都市を運営するチームは、交通のホットスポットを迅速に特定する必要があるが、大量のセンサーから送られてくる生データは、数値の羅列であり、時間的な制約の中でそれらを素早く分析して状況を把握するのは非常に困難な課題である。交通量や速度、その他さまざまな環境センサーから得られる膨大なデータは、専門家でなければ解読が難しい。この問題に対し、システムは交通問題を予測し、その予測を元に平易な英語のレポートを自動生成することで、都市運営チームがより迅速かつ正確に状況を理解し、適切な行動を取れるようにすることを目指している。

このシステムのアーキテクチャは複数のコンポーネントで構成されており、それぞれが特定の役割を担っている。まず「データ取り込み（Data ingestion）」の段階では、交通センサーからシミュレートされたデータが時系列データベースに送られる。時系列データベースとは、時間とともに変化するデータを効率的に保存・検索するために特化したデータベースのことで、交通量のような連続的なデータに適している。

次に「予測サービス（Prediction service）」がその役割を果たす。このサービスはPythonで書かれたモデルで構成され、シンプルな回帰分析とヒューリスティック（経験則に基づいた判断）を組み合わせて交通状況の予測を行う。回帰分析は、過去のデータから将来の傾向を予測する統計的な手法であり、例えば、特定の時間帯や曜日における交通量のパターンを学習して、未来の交通量を予測する。ヒューリスティックは、特定の条件下で交通量がどのように変化するかといった経験的なルールを適用し、予測の精度を高める。

予測サービスで得られた交通状況の予測結果は、次に「LLMサービス（LLM service）」へと送られる。このサービスは、LangChainというフレームワークを使って大規模言語モデル（LLM）をラップしている。LangChainは、LLMをアプリケーションに組み込むためのツールキットであり、LLMとの連携を容易にする。ここでは、予測された数値を元に、LLMが交通インシデントに関するレポートを生成する役割を担う。LLMは与えられた情報から自然な文章を生成する能力に優れており、数値データだけでは分かりにくい交通状況を、具体的な事象や推奨される行動を含むレポートへと変換する。

ユーザーがこのシステムと対話するための「フロントエンド（Frontend）」は、ReactというJavaScriptライブラリを使って開発されたWebアプリケーションである。このフロントエンドは、交通状況を示すダッシュボードや、LLMが生成したレポートを表示するためのビューアとして機能する。利用者はこのインターフェースを通じて、リアルタイムの交通状況や自動生成されたレポートを確認できる。システム全体はDockerによってコンテナ化され、CI/CD（継続的インテグレーション・継続的デリバリー）パイプラインを通じてデプロイされている。Dockerはアプリケーションとその実行環境をまとめてパッケージ化する技術であり、CI/CDはソフトウェア開発の自動化プロセスを指し、これらによって開発と運用の効率が向上している。

具体的な実装においては、PythonのWebフレームワークであるFastAPIが使用されている。FastAPIは高速で高パフォーマンスなAPIを簡単に構築できることが特徴だ。記事のコードスニペットから、レポート生成のためのAPIエンドポイントがどのように機能するかが分かる。 まず、FastAPIのアプリケーションが初期化され、大規模言語モデルとしてOpenAIのLLMが設定されている。ここでは、APIキーと、生成されるテキストの創造性（temperature）を設定している。temperatureの値が低いほど、より一貫性のある予測可能なテキストが生成される。 そして、プロンプトテンプレートが定義されている。プロンプトとは、LLMに対してどのようなタスクを実行してほしいか、どのような情報を使ってほしいかを具体的に指示するテキストのことである。このテンプレートでは、LLMに「都市運用アシスタント」としての役割を与え、「与えられた要約から、推奨される行動を含む3文のインシデントレポートを書きなさい」と指示している。{summary}の部分は、予測サービスから提供される交通状況の要約が挿入されるプレースホルダーである。 LangChainのLLMChainは、このLLMとプロンプトテンプレートを連結し、一連の処理を実行するためのチェーンを構築する。 Payloadクラスは、Pydanticというライブラリを使って定義されており、APIに送られるデータ（この場合は交通状況の要約テキスト）の構造を定義している。これにより、APIがどのような形式のデータを受け取るかを明確にできる。 最後に、/reportというPOSTエンドポイントが定義されている。このエンドポイントは、クライアントから送られてきたPayload（要約テキスト）を受け取り、そのテキストを先ほど定義したchain.run()メソッドに渡す。chain.run()は、プロンプトテンプレートとLLMを使ってレポートを生成し、その結果をJSON形式でクライアントに返す。

このプロジェクトを通じて得られた重要な教訓はいくつかある。第一に、大規模言語モデルは数値的な要約を人間にとって有用な散文に変換するのに非常に優れているという点である。しかし、そのためには明確なプロンプトと、LLMが逸脱しないための「ガードレール」が必要不可欠である。あいまいな指示では、意図しない結果を生む可能性がある。第二に、LLMのステップは、決定論的な予測の後に行うべきであるという点だ。つまり、交通量などの具体的な数値や事象の予測は、まずは通常の予測モデルで行い、その結果を受けてからLLMにレポートの生成を依頼するべきだということである。LLMに直接数字を「発明」させてはならない。これは、情報の正確性を保つ上で非常に重要である。

このシステムの結果として、技術的な知識を持たないオペレーターでも即座に行動できるような、簡潔で分かりやすいレポートが生成されることが確認された。これにより、都市運営における交通管理の効率と対応速度が大幅に向上する可能性を秘めている。