【ITニュース解説】Read Access and Action Authority Belong to Different Contracts

ITシステムを設計する際、情報を単に閲覧する権限と、その情報に基づいて実際にシステムに変更を加える権限は、根本的に異なるものとして扱う必要がある。これらは、それぞれ異なるルールや「契約」によって管理されるべきだという考え方がある。この区別は、特にAIアシスタントのような技術が情報を検索し、ユーザーの作業を支援する場面で、システムの安全性と信頼性を保つために非常に重要となる。

システムは、情報を収集し理解するための「知識の領域」と、実際の操作を実行するための「行動の領域」という二つの側面を明確に分離して設計されるべきだとされる。知識の領域は、特定の文書群や承認された情報源から情報を取得できるかどうかを制御する。例えば、ある作業の手順書を参照することは、この知識の領域での活動にあたる。一方、行動の領域は、ユーザーの役割や定められたポリシー、そして承認ルールに基づいて、実際にシステム上で何らかの変更（データの更新や機能の実行など）を行えるかどうかを制御する。

なぜこの二つの領域の区別が重要なのか。それは、ある手順書を読んだり、その内容を理解したりすることと、その手順を実際に実行する権限を持つこととは別だからである。たとえシステムが承認された手順書を通じて、特定の財務処理の例外対応方法を詳しく説明していたとしても、その手順書を読んだ者がその財務変更を実際に実行する権限を自動的に得るわけではない。手順書は例外を認識し、適切な部署に情報を送る方法を理解する上で役立つが、実行権限とは直接結びつかない。

この問題は、AIアシスタントがテキスト情報を処理する際に特に顕著になる。AIアシスタントは、ある作業の手順を説明したり、必要な証拠をまとめたり、関連する担当者を特定したりすることはできる。しかし、AIが「この操作を実行するべきだ」と提案するリクエストは、あくまで「提案」であり、それがすぐに実行を許可された「命令」となるわけではない。もし情報へのアクセスが、自動的にその情報の実行権限へと繋がってしまうと、知識の取得が意図せずシステム上の操作権限を拡大させてしまう危険性がある。これは、AIの出力が非常に情報に基づいているように見えても、実際にはシステムの行動を制御する境界線が曖昧になってしまう状態を生み出してしまう。

そのため、情報の取得と操作の実行では、システムが確認すべき事項が異なる。情報を取得する場合、システムは「このユーザーは、この承認された情報源を参照してもよいか？」と問う。これは、情報を閲覧する権限があるかどうかの確認に過ぎない。これに対し、操作を実行する場合、システムは「このユーザーが、現在の状況において、この特定の対象に対してこの操作を実行してもよいか？」と問う。この場合、操作の種類、影響を受けるデータや機能、そしてその時点での承認状況が厳密にチェックされる。

具体的な例を挙げてみよう。ある生産ラインの作業員が、製品のパーソナライゼーションの誤りに対処するための手順書を読んだとする。作業員がAIアシスタントに「次は何をすべきか」と尋ねると、アシスタントは関連する手順書を検索し、顧客への是正措置の要求を提案する。この提案は、次のステップを理解する上では非常に有用だが、作業員が金銭的な調整を承認する権限を持つことを意味しない。実際の操作、例えば金銭的な調整をシステム上で実行するには、システムは作業員が要求した操作、影響を受ける対象（例えば顧客の支払い記録）、そして適用される承認ルールを厳密に評価する必要がある。もし追加の承認が必要な場合、その要求は単なる「提案」として扱われ続け、すでに実行された「是正措置」として扱われるべきではない。

AIアシスタントが関わるシステム設計では、AIが情報を生成した後も、この情報と実行の境界を維持することが極めて重要である。たとえAIにユーザーの役割に関する指示をプロンプトとして与え、そのスコープ内で説明を生成させたとしても、実際にシステムが操作を受け付けるインターフェースでは、必ず厳格な認証ルールに基づいて権限を適用する必要がある。このインターフェースは、AIアシスタント自体のシステム上の身元と、リクエストを出した人間のユーザーの役割を明確に区別しなければならない。システムによって具体的な実装方法は異なるが、「誰の権限が評価されているのか」そして「どのような根拠がその権限をこの操作に結びつけているのか」という根本的な問いは常に変わらない。

また、システムの状態も常に最新のものを考慮に入れる必要がある。以前に参照した情報源が、引き続き閲覧可能であったとしても、対象となるシステム上のデータや機能の状態が変わっていたり、以前に得た承認が既に無効になっていたりする可能性もある。そのため、操作の実行を決定する際には、AIが以前に生成した説明に依存するのではなく、その時点で適用される最新の承認状態に基づいて判断を下すべきである。

これらの異なる責任を持つ「契約」、つまり情報取得のルールと操作実行のルールは、システム設計の早い段階で明確にし、それぞれ独立してテストすることが不可欠である。例えば、「権限のあるユーザーが正しい承認済み手順書を取得できるか？」といった情報取得に関するテストは重要だ。同時に、「同じユーザーが自身の権限外の操作を実行しようとした場合に、それが拒否されるか？」や「AIが提案した操作要求が、実際に完了したアクションと明確に区別できるか？」といった操作実行に関するテストも必要となる。さらに、「操作の実行時に、対象となるデータの状態や必要な承認が適切にチェックされるか？」という点も検証しなければならない。

情報取得に関するテストに合格したとしても、それはシステム上の操作の安全性を保証するものではない。同様に、特定のツールでの操作権限テストに合格したとしても、それは情報取得の品質や正確性を保証するものではない。それぞれの領域が適切に機能していることを個別に確認することで、システム全体の安全性、信頼性、そして透明性が保たれる。システム設計者は、情報に基づく提案が、実際に権限を持つ操作へと変換される境界がどこにあるのかを明確に把握し、その境界をAIへの指示とは独立して検証できる状態にしておく必要がある。この区別がなければ、意図しない権限の拡大や、セキュリティ上の脆弱性が生じる可能性がある。