【ITニュース解説】The 5 stages of ai grief (when your chatbot forgets everything again)

「The 5 stages of ai grief (when your chatbot forgets everything again)」というニュース記事は、AIチャットボットとの対話中に、以前話した内容をボットが忘れてしまい、同じ情報を繰り返し入力しなければならないという、多くのユーザーが経験するフラストレーションについて語っている。これは、人間が大切なものを失ったときに感じる「喪失の5段階」になぞらえられ、AI技術との付き合い方におけるユーザーの感情的な側面を浮き彫りにする。システムエンジニアを目指す者にとって、このユーザー体験は、技術的な仕組みだけでなく、それが人々に与える影響を理解する上で非常に重要な視点を提供する。

AIが「忘れる」というのは、人間が記憶をなくすこととは根本的に異なる。大規模言語モデル（LLM）に基づくチャットボットは、一度に処理できる情報量に限界があり、これを「コンテキストウィンドウ」と呼ぶ。コンテキストウィンドウは、モデルが現在の会話を生成するために参照できるテキストの範囲であり、会話がこのウィンドウの長さを超えると、古い情報は自動的に切り捨てられ、モデルはそれを参照できなくなる。つまり、ボットが「忘れた」ように見えるのは、過去の会話データが参照範囲外に出たためであり、データが完全に消滅したわけではないが、現在の対話には使えない状態になるのだ。この制約は、膨大な計算資源や処理時間が必要になるため、実用的な運用コストとのバランスから生じている。また、多くのチャットボットは「ステートレス」に設計されている。これは、各リクエストが独立して処理され、過去の会話履歴を自動的に保持しないことを意味する。ユーザーがセッションを終了したり、時間が経過したりすると、ボットは以前の会話内容を初期化してしまうため、次の対話では完全に新しいセッションとして認識される。ユーザーが感じる「忘却」は、このような技術的な制約と設計上の選択の結果なのである。

記事では、このチャットボットの「忘れ」に対してユーザーが経験する感情を、人間の喪失体験になぞらえて次の5段階で説明している。

最初に、ユーザーは「否認（Denial）」の段階を経験する。AIは自分の言ったことを忘れるわけがない、何か自分の使い方が悪いのだろうと考える。最新のAIは非常に賢く、人間のような理解力を持っていると信じているため、その限界を受け入れられない状態である。初めてチャットボットが以前の会話内容を無視したとき、「これは一時的なバグだろう」「私が入力し直せば理解するはずだ」といった期待を抱く。

次に、「怒り（Anger）」の段階に移る。何度も同じ情報を入力させられると、ユーザーは苛立ちや怒りを感じ始める。「なぜこんな簡単なことを覚えられないのか」「私の貴重な時間を無駄にしている」という感情が募る。特に、重要な背景情報や複雑な指示を繰り返し入力する羽目になったとき、そのフラストレーションはピークに達する。チャットボットに対して、まるで人間のように「いい加減にしてほしい」と感情をぶつけることもある。

怒りを感じつつも、ユーザーは状況を改善しようと試みる「交渉（Bargaining）」の段階に入る。より明確なプロンプトを作成したり、会話の要点をまとめるように促したり、会話の途中で重要な情報を再度リマインドしたりするなど、あの手この手でチャットボットに記憶を維持させようと努力する。「もし私がこの情報を要約して送れば、あなたは覚えてくれるか」「会話の冒頭にすべての情報をまとめるから、最後までそれを参照してほしい」といった具合に、AIの限界の中で最適な使い方を探る段階である。

しかし、多くの努力が報われず、チャットボットがやはり重要な情報を忘れてしまう現実を突きつけられると、ユーザーは疲弊し、「抑うつ（Depression）」に似た感情に陥る。「どんなに頑張っても無駄だ」「このAIは私のニーズを満たせない」と感じ、AIとの対話そのものに意欲を失ってしまう。AIに期待していた理想と現実のギャップに打ちひしがれ、チャットボットの利用を一時的に中断したり、諦めたりすることも少なくない。

最終的に、ユーザーはチャットボットの限界を受け入れ、「受容（Acceptance）」の段階に至る。AIが記憶を持たない特性を理解し、同じ情報を入力し直すことをタスクの一部と捉えたり、特定のセッションで完結するような短いタスクにのみ利用するなど、利用方法を最適化する。これは、AIの弱点を知り、人間が道具としてAIを使いこなすための現実的なステップと言える。新しいツールやワークフローを開発して、この「忘れ」の問題を回避する工夫を凝らすようになる場合もある。

システムエンジニアを目指す者にとって、この記事が示すユーザーの感情の動きは、AIシステム開発における重要な示唆を与える。単に性能の高いAIモデルを構築するだけでなく、そのAIがユーザーにどのような体験を提供するか、どのように感情に影響を与えるかを深く理解する必要がある。チャットボットの「忘れ」問題は、ユーザーインターフェース（UI）やユーザーエクスペリエンス（UX）の設計において、コンテキスト管理の重要性、セッション管理の工夫、あるいは長期記憶を可能にするためのRAG（Retrieval Augmented Generation）のような外部知識ベース連携技術の導入など、多くの技術的課題へとつながる。ユーザーの不満やフラストレーションは、AI技術の改善点や新たなソリューションのヒントとなる。この「AIの喪失」を理解することは、より人間中心の、そして実用的なAIシステムを開発するための第一歩と言えるだろう。AIの進化は目覚ましく、将来的にチャットボットがより長く、より適切にコンテキストを保持できるようになる可能性は十分にある。システムエンジニアは、技術的な制約とユーザーの期待との間に立つ存在として、これらの課題を解決し、より良いAI体験を創造する役割を担っている。