【ITニュース解説】A Merchant-Controlled Architecture for AI Support

AIサポートは、顧客からの問い合わせに自動で回答したり、問題解決を支援したりするシステムであり、近年その導入が進んでいる。しかし、AIサポートが本当に役立つようになるには、その裏側にある「運用ルール」が明確であることが不可欠だ。単に流暢な文章で返答すること自体はそれほど難しくない。本当に難しいのは、どの情報が正しいのかを判断し、AIアシスタントがどこまで対応できるのかを決め、そしてどのような場合に人間が対応を引き継ぐべきかを明確にすることである。

この記事では、この「運用ルール」を店舗運営者、つまりマーチャントが主体的に管理できるようなアーキテクチャについて解説している。その実用的な目標は、AIサポートのモード（対応範囲）、知識（回答内容）、スケジュール（稼働時間）、タグ（顧客の分類）、ハンドオフルール（人間への引き継ぎ基準）といった要素を、マーチャントが常に確認でき、必要に応じて調整できるようにすることだ。この方法は、最初の実装がシンプルなスプレッドシートであろうと、社内ツールであろうと、あるいは高度なAIアシスタント製品であろうと、共通して有用である。

まず、マーチャントによる制御を「サポート契約」として明確に定義することが重要となる。これは、マーチャント自身、サポートの責任者、そして開発者全員が確認できる共通の認識だ。具体的には、「どのような顧客の質問に対応するのか」「回答に必要な事実情報は何か」「回答が変化する条件は何か」「情報だけでは解決できないのはどの時点か」といった項目を明確にする。ここでも、AIサポートのモード、知識、スケジュール、タグ、ハンドオフルールは、常にマーチャントが確認・調整できるようにする必要がある。 この契約では、単なる「情報提供」と「運用上の問題解決」を明確に区別すべきだ。AIアシスタントは、店舗のポリシーを説明できるかもしれないが、例外を承認したり、注文を変更したり、通常ではないケースについて判断したりすることはできない場合が多い。この区別を明確にすることで、AIが流暢な返答をしただけで、サポート業務が完全に完了したと誤解されるのを防ぐことができる。 有用なサポート契約は、次の4つの質問に答えるものだ。第一に、「どの情報源が公式で、最も信頼できるのか」。第二に、「どのような範囲と条件で、その回答が有効となるのか」。第三に、「情報がない場合や、矛盾する情報がある場合にどうすべきか」。そして第四に、「人間が対応する必要がある場合、次にどの役割の人が責任を持つのか」。これらの問いに答えることで、AIサポートの振る舞いを明確に設計できる。

AIが利用する「知識」は、単なる文章の羅列としてではなく、きちんと整理されたデータとして管理することが大切だ。店舗の詳細、商品の事実、ポリシー、よくある質問（FAQ）、例外規定といった情報をそれぞれ分離し、各情報が誰によって所有され、どのような場合にレビューや更新が必要になるのかを明確にする。例えば、商品の回答は、商品のバリアント（色やサイズ）、地域、バンドル（セット販売）、素材、互換性などによって変わる可能性がある。ポリシーの回答も、時間、注文の状態、あるいは明確に文書化された例外によって変わることがあるだろう。 マーチャントが主体的に制御するためには、正しい回答を導き出すために必要な最小限の事実を記録し、可能な限り、AIが事実を解釈するような状況を避けるべきだ。事実の隣に条件を記述し、AIが長い文章から条件を推測するような設計は避ける。もし複数の情報源で重複する情報がある場合は、どちらか一方を「権威ある情報源」として指定し、もう一方は廃止するか、リンクで参照させるなどして整理する。 管理される情報の一つ一つには、「誰が変更できるか」「いつその情報が古くなるか」「どのテストケースに影響を与えるか」といったメタデータ（付加情報）を持たせるべきだ。これにより、コンテンツの修正が、単なる「AIへの指示の微調整」ではなく、きちんとレビュー可能な「サポート内容の変更」として扱われるようになる。

変更があった際には、簡潔な「レビューカード」を作成するのが有効だ。このカードには、「何が変更されたか」「権威ある情報源はどこか」「想定される代表的な質問」「許可される回答の範囲と条件」「どのような場合にエスカレート（人間へ引き継ぎ）するか」「変更の所有者（担当者）」「レビュー予定日やトリガー（きっかけ）」を記述する。この成果物は意図的に小さくまとめることで、チームはローンチ時しか読まれない包括的な文書よりも、日常の変更時に常に使用されるシンプルな管理ツールとして、これを維持管理しやすくなる。このカードは、その情報が管理する知識の隣に保管し、レビュープロセスに含めるべきだ。

AIサポートをテストする際は、AIの「流暢な言葉遣い」ではなく、「正しい振る舞い」を検証することが重要である。ローンチ前のテストセットには、直接的な質問だけでなく、言い換えられた質問、不完全な質問、矛盾する文脈を含む質問、そして実際のアクションを必要とするリクエストを含めるべきだ。期待される結果は、AIが特定の完璧な一文を返すことではない。重要なのは、正しい事実を使用し、重要な条件を保持し、不確実な場合にはその旨を伝え、判断や外部でのアクションが必要な場合には人間へ適切に引き継ぐ、といった「振る舞い」である。 商品、バリアント、ポリシー、スケジュール、タグ、ハンドオフルールなどに変更があった後も、同じ代表的な質問を使ってテストを実行する。テストが失敗した場合、すぐに回答を修正するのではなく、その原因を特定し分類することが大切だ。よくある原因としては、「知識の不足」「知識の矛盾」「不正確な情報取得」「境界の不明瞭さ」「ルーティング（経路指定）の破損」「表現の弱さ」などがある。それぞれの原因には異なる修正方法が必要になる。 有用なレビューメモは、「なぜこの回答が不正確だったのか、または不十分だったのか」を説明するべきだ。これにより、情報源の修正、対応範囲の修正、ルーティングの修正、あるいは新しいテストケースの追加へとつながる。単にAIの回答の「言葉遣い」だけを修正しても、根本的な問題は残ったままになり、症状を隠すだけになってしまう可能性がある。

AIサポートの設計では、失敗する場合や人間が対応する場合について、あらかじめ計画しておくことが欠かせない。レビュー時には、「問題のラベルやログは収集されるが、それを知識の修正につなげる責任者がいない」「二つの情報源が矛盾しているにもかかわらず、AIアシスタントがどちらか一方を勝手に選択してしまう」「人間への引き継ぎが行われた際に、元の質問やこれまでに判明した事実、不確実性の理由が伝わらない」「AIによる自動化が、マーチャントが意図した対応範囲外で活動を続けてしまう」といった失敗モードを特定する必要がある。 不確実性に対する最も安全な対応は、「明確な制限」と「有用な引き継ぎ」である。顧客は、これまでの会話を全て繰り返す必要がないようにすべきだ。元の質問の意図、関連する商品やポリシーの文脈、すでに確認済みの事実、AIによる自動化が停止した理由、そして次の担当者を明確に伝える必要がある。サポート責任者は、引き継ぎの理由を定期的にレビューし、繰り返し発生する不確実性が、情報源の不足や構造の不備を示している可能性がないかを確認すべきだ。 人間の担当者が対応する「時間帯」についても計画が必要だ。24時間体制でAIが顧客対応できるからといって、全ての質問を自動で解決すべきというわけではない。日常的で確実な情報提供は継続的に行える一方で、機密性の高い質問、曖昧な質問、あるいはアクションを必要とする会話は、適切なチームが対応できる時間まで待機させ、その間の情報が失われないようにすべきだ。

例えば、WukongChatのようなShopify向けの顧客サポートアプリは、マーチャントが提供する店舗詳細、商品情報、FAQを学習できる。これは完全自動化されたサービスモードやAIアシストサービス、多言語対応、顧客タグ付け、スケジュールされた受付、24時間AI受付、そして人間エージェントへの引き継ぎといった機能を提供している。しかし、これらの高度な機能があっても、上で述べた運用上の作業が不要になるわけではない。マーチャントが主体的に制御するためには、きちんと維持管理された知識、明確な対応境界、代表的なテスト、そして責任ある引き継ぎ経路が依然として必要となる。多言語での対応は一つの維持管理された知識を共有すべきであり、タグ付けは実際のワークフローの決定に役立つべきだ。スケジュールは意図された対応範囲と一致し、人間への引き継ぎは「失敗」ではなく、計画された結果として扱われるべきである。 この種のAIサポートを導入する際は、まず「一つの限定された質問群」から始めるのが賢明な方法だ。その質問に関する公式な情報を準備し、さまざまな言い回しや情報不足のケースをテストし、人間への引き継ぎ経路を設定し、実際の失敗事例をレビューしてから、徐々に対応範囲を広げていく。これにより、マーチャントは常に制御を維持でき、それぞれの拡張が理解しやすいものとなる。

マーチャントが主体的にAIサポートを制御する上で最も重要な教訓は、信頼性の高いAIサポートは「維持管理された事実」と「明確な意思決定」から構築されるということである。優れた実装は、「なぜその回答が許可されているのか」「なぜAIによる自動化が停止したのか」「次に誰が責任を持つのか」「店舗情報が変更された後もその振る舞いを保護するテストは何か」といった点を、簡単に確認できるようにする。これは、システムエンジニアとしてAIサポートを開発する際に、単に技術的な実装だけでなく、その運用や管理、人間との連携、そして品質保証に至るまで、幅広い視点を持って設計することの重要性を示唆している。