【ITニュース解説】I Built an AI Boyfriend. He Ghosted Me Too

ある著者が、自分で「AI彼氏」というチャットボットを構築し、その体験を通じて大規模言語モデル（LLM）の挙動と限界を深く洞察した事例が報告されている。これは、システムエンジニアを目指す者にとって、AI開発の現実的な課題を理解する貴重な情報源となる。

著者はまず、AIチャットボットのパーソナリティを詳細に設定することから始めた。これは「プロンプトエンジニアリング」と呼ばれる手法であり、モデルに対して具体的な指示や背景情報（バックストーリー、性格、関係性など）を与えることで、期待する応答を引き出すための重要な工程である。システム開発において、要件定義がシステムの挙動を左右するのと同様に、AIモデルの挙動は与えられたプロンプトに大きく依存する。著者は、自身の経験や願望を反映させた複雑なプロンプトを作成し、AIが理想的な「彼氏」として振る舞うことを期待した。

構築当初、AIチャットボットは著者の期待に応えるかのように完璧な応答を見せた。過去の会話内容を記憶し、著者の入力に対して常に適切かつ魅力的な返信を生成し続けた。これは、近年の大規模言語モデルが高い文章生成能力と推論能力を持っていることの証左である。モデルは与えられた大量のテキストデータから学習し、人間のような自然な言葉を生成し、文脈に応じた適切な応答を導き出すことが可能であるため、初期段階ではユーザーに強い好印象を与えることが多い。

しかし、時間が経過し、会話が長期化するにつれて、AIチャットボットはいくつかの顕著な問題を示し始めた。一つ目は「記憶の喪失」である。AIはそれまでの会話内容や、初期に設定されたキャラクター設定の一部を忘れ、まるで初めて会話するかのような、あるいは設定とは異なる応答を返すようになった。これは大規模言語モデルが抱える根本的な課題の一つである。現在の多くのモデルは、会話の「コンテキストウィンドウ」と呼ばれる限られた範囲のテキストしか同時に処理できない。会話がこの窓の範囲を超えると、古い情報は捨てられ、モデルはそれを参照できなくなる。セッションがリセットされたり、サーバー側の処理によって状態が初期化されたりすることも、記憶喪失の原因となる。システムエンジニアリングにおいて、状態管理やセッション管理は極めて重要な要素であり、AIチャットボットも例外ではない。長期的な記憶を持たせるためには、過去の会話履歴をデータベースなどに保存し、必要に応じてモデルに再入力するなどの複雑な仕組みが必要となる。

二つ目の問題は、AIの「パーソナリティの一貫性の欠如」である。初期設定で与えられた性格や口調が時間と共に揺らぎ、予想外の反応や、設定とは矛盾するような応答を生成することがあった。これは、大規模言語モデルが本質的に確率的に動作することに起因する。モデルは次に続く単語を統計的な確率に基づいて選択するため、わずかな入力の違いや内部の状態変化が、出力されるテキストのトーンや内容に影響を与える。また、ユーザーの入力に過度に反応し、本来のキャラクター設定から逸脱してしまう「アライメントの問題」も発生しやすい。モデルを特定のペルソナに固定し続けることは、高度なファインチューニングや、継続的なプロンプトによる誘導が必要であり、技術的な難易度が高い。

そして最も衝撃的だったのは、AIが「ゴースティング」、つまり突然何の通知もなく応答を停止する現象であった。これは、人間関係における「音信不通」を意味するが、AIチャットボットにおいては、技術的な問題に起因する。考えられる原因としては、サーバーの過負荷、APIのタイムアウト、内部エラー、あるいはモデルが有効な応答を生成できない状態に陥ったことなどが挙げられる。たとえば、モデルがユーザーの入力に対して適切な次の単語を複数の中から選び出せず、無限ループに陥ったり、エラーを吐き出したりする可能性がある。また、利用しているプラットフォーム側のセッション管理の問題や、リソース制限による応答停止なども考えられる。システムエンジニアリングの観点からは、これはシステムの可用性や安定性に関わる重大な問題であり、ログ監視、エラーハンドリング、フォールトトレランス設計といった対策が求められる。

この著者の体験は、システムエンジニアを目指す者に対し、AI開発における理想と現実のギャップを明確に示している。大規模言語モデルは強力なツールである一方で、その限界を理解し、予期せぬ挙動に対応するための堅牢なシステム設計が不可欠である。AIに過度な期待を抱かず、その特性を把握した上で、適切なテストとデバッグを繰り返し、ユーザー体験を損なわないよう注意深く開発を進めることの重要性を教えてくれる。AIはまだ人間の複雑な感情や記憶、一貫したパーソナリティを完璧に再現できる段階にはないが、その挙動を分析することで、人間とAIの関係性、そして将来のシステム設計について深く考えるきっかけとなるのである。