【ITニュース解説】Client Documents in AI Tools: A Checklist for Agencies

現代のシステム開発において、人工知能（AI）ツールの活用は目覚ましい進歩を遂げている。しかし、AIツールに顧客の重要な文書をアップロードする際には、その利便性の裏にある潜在的なリスクを深く理解しておく必要がある。特に、システムエンジニアを目指す初心者にとって、これらの知識は将来、顧客の信頼を得て安全なシステムを構築・運用するために不可欠なものとなるだろう。

AIツールに文書を投入する際、まず考えるべきは、そのデータがどこへ行き、どれくらいの期間保管され、AIモデルの学習に使われるのか、そして誰がそのデータを処理するのかという点だ。さらに、顧客との契約内容がAIツールの利用を許しているかどうかも確認しなくてはならない。これらの質問に対する答えは、個人向けチャットアカウントと、商用APIを利用した企業向け製品とでは大きく異なる。

まず、あなたが文書をAIツールにアップロードしたとき、そのデータがどのような経路をたどるのかを具体的にイメージしてみよう。最初に、あなたのブラウザからファイルがAIツールのサーバーへ送信される。次に、そのツールは元のファイル、抽出されたテキスト、あるいはそこから生成されたデータのみを保存する可能性がある。さらに、そのツールはテキストをモデルプロバイダへ送信する。このモデルプロバイダは、あなたが利用しているAIアプリを提供している会社とは別の会社である場合が多い。モデルプロバイダも、不正利用の監視やデバッグのために、入力データと出力データを一定期間保持する可能性がある。最終的に、処理された結果がツールに戻ってきて、あなたのプロジェクト内に保存されたり、あるいは保存されなかったりする。このように、データが経由するそれぞれの場所でコピーが作成される可能性があり、関係者がその内容を閲覧できる可能性があることを理解しておくべきだ。信頼できるベンダーであれば、データがどこに、どれくらいの期間、どの国に保存されるかについて、各段階で明確な情報を提供できる。もし「確実ではない」という回答しか得られないのであれば、それはそのツールを使うべきではないというサインだと捉えよう。

アップロードする文書の内容も重要だ。顧客名、連絡先、未公開の計画、価格情報、既存システムのセキュリティ詳細など、一見すると些細に見える情報でも、機密性が高い場合が多い。これらの情報の中には、GDPRのような個人データ保護法規の対象となる個人データが含まれることもあり、その場合は特別な取り扱いが求められる。

AIツールを利用する際にベンダーに問いかけるべき重要な質問事項を整理してみよう。これらの質問に対する明確な書面での回答、できれば公開ページでの明示が求められる。

ストレージに関して、アップロードしたファイルが保存されるのか、保存されるならどこに、どれくらいの期間保存されるのかを確認する。「保存されない」、あるいは「一定期間、特定の地域に保存」という具体的な回答が望ましい。

次に、あなたのコンテンツがモデルのトレーニングに利用されるのかどうかだ。あなたの機密情報が他の顧客が利用するモデルの改善に使われるのは避けたいだろうから、「デフォルトでは利用しない」という回答と、モデルプロバイダ側の規約への言及が重要である。

どのモデルプロバイダがテキストを処理するのかも明らかにするべきだ。「信頼できるパートナー」といった曖昧な表現ではなく、具体的な会社名が求められる。

モデルプロバイダが入力データと出力データをどれくらいの期間保持するのかも確認する。具体的な日数と例外事項が明確にされている必要がある。

ホスティング、メール、決済など、データを取り扱う他のサブプロセッサは誰か、そしてそれぞれがどのようなデータを受け取るのか、そのリストを明確に開示させるべきだ。

サーバーやデータベースが物理的にどこにあるのか、国や地域で特定されている必要がある。

ベンダーの社内で誰があなたのコンテンツを見ることができるのか、そのアクセス権限に関する短く具体的な回答も求められる。

顧客間のデータがどのように隔離されているのか、インターフェース上の区別だけでなく、サーバーサイドでの具体的な対策が施されているかを尋ねるべきだ。

プロジェクトやアカウントを削除する機能があるか、削除した場合にデータがどのように扱われるのか、自己サービスで明確な手順が示されていることが重要だ。

あなたのコンテンツを再利用可能な形式でエクスポートできるかどうかも確認する。具体的なエクスポート形式が明記されている必要がある。

データ処理契約（DPA）を締結できるかどうかも確認する。特に個人データを含む場合はGDPRなどの規制に基づきDPAの締結が必須となる場合が多い。契約締結の手順が提示されているべきだ。

独立した監査や認証が存在するかどうかも尋ねるべきだ。具体的な監査レポートがあれば信頼性が高まるが、正直に「まだない」という回答も、その後の判断材料となる。監査がない場合でも、ベンダーの書面による回答をより慎重に評価する必要がある。

特に顧客が最も関心を寄せるのが、「データの保持」と「トレーニング利用」の二つの側面だ。これらは混同されがちだが、明確に区別して理解しておく必要がある。トレーニング利用とは、あなたのテキストがAIモデルの改善に役立てられ、結果として他の顧客がその恩恵を受けることだ。機密性の高い作業では、デフォルトで「利用しない」という設定が必須となる。同じプロバイダでも製品のティアによってポリシーが異なる場合がある。例えば、OpenAIの場合、ビジネス製品やAPIからの入力・出力はデフォルトでモデルのトレーニングには使用されないが、個人向けのChatGPTアカウントでは「全員のモデルを改善する」という設定がデフォルトでオンになっており、ユーザーが手動でオフにしない限りデータが利用される。この違いから、顧客の資料を個人のチャットアカウントに貼り付けることと、企業向け製品を使用することでは、セキュリティ上の意味合いが全く異なることがわかる。

一方、データの保持とは、モデルのトレーニングに利用されなくても、あなたのデータのコピーがどれくらいの期間存在するかを指す。プロバイダは、APIへの入力データと出力データを短期間保持することがある。例えば、Anthropicは、APIの入力・出力データをデフォルトで30日以内にバックエンドから削除すると表明している。ただし、個別の契約や利用規約の強制、法的要件など、例外事項も存在する。これらの規約は変更される可能性があるため、利用を決定する際には常に最新の情報を確認することが重要だ。また、基盤となるモデルプロバイダだけでなく、その上で動くアプリケーションが元のファイルを保持するのか、プロンプトのテキストをログとして記録するのかについても確認すべきだ。

もし文書に個人データが含まれ、あなたまたはあなたの顧客がGDPRの対象となる場合、AIベンダーは通常、そのデータの処理者として機能する。GDPR第28条では、そのような処理者との間で書面による契約、いわゆるデータ処理契約（DPA）を締結することが義務付けられている。DPAはまた、処理者がサブプロセッサを利用する前にあなたの承認を得ること、そして同じ義務をサブプロセッサにも課すことを要求する。

実務においては、以下の三点を確認することが重要である。一つ目は、あなたと顧客との契約だ。多くのサービス契約では、顧客の資料を閲覧できる第三者が制限されていたり、新たな第三者を利用する前に通知が求められたりする。AIツールとそのモデルプロバイダもこれに該当する。二つ目は、ベンダーのDPAだ。これには、サブプロセッサの名称、データの所在地、国際的なデータ転送がどのようにカバーされているか（標準契約条項など）が明記されているべきだ。三つ目は、サブプロセッサのリストだ。ホスティング、モデルプロバイダ、メール、決済などが典型的であり、それぞれがどのようなデータを受け取るのか、具体的な名称とともにリストアップされている必要がある。

ベンダー側の対策だけでなく、あなたのチーム内で実施すべき管理体制も非常に重要だ。多くの情報漏洩はベンダーではなく、利用者側の過失によって引き起こされる。いくつかのルールをチーム内で設定しておくべきだ。

まず、顧客の仕事にAIツールを利用する際は、必ずビジネスアカウントを使用する。これにより、上述した企業向けの規約が適用され、個人アカウントのようなリスクを回避できる。次に、プロジェクトごとにアクセス権限を付与し、会社全体でアクセスを許可するべきではない。ある顧客の仕事を担当する契約者が、別の顧客のファイルを見ることがないように、厳密なアクセス管理が求められる。

アップロードするデータは、そのタスクに必要な最小限にとどめるべきだ。例えば、完全なトランスクリプトではなく、編集済みで機密情報が削除されたもので十分な場合が多い。銀行口座情報やパスワードなど、機密性の高い情報はアップロード前に必ず取り除くべきだ。また、誰が何を変更したのか、その履歴を記録しておくことも重要だ。AIが生成した編集であっても、それが誰の承認によって適用されたのかを追跡し、必要に応じて元に戻せるようにしておく。

顧客への透明性も不可欠だ。提案書に、どのようなAIツールを、どのような条件で利用するのかを明記しておくことで、後々の不必要な懸念や誤解を防ぐことができる。最後に、プロジェクトの終了時にどのようにデータをエクスポートし、ワークスペースを削除するのか、あらかじめ計画しておくことも重要だ。

特定の製品であるDiscovery Phase AIの例を挙げると、アップロードされたファイルはプロジェクトのドラフト作成のためにメモリ内で読み込まれるだけで、保存はされない。レビューして保存されたドラフトのみがプロジェクトコンテンツとして残る。AIのリクエストはAnthropicに送信され、コンテンツがモデルのトレーニングに使われることはなく、Anthropicの商用API規約でもデフォルトではトレーニングに利用されない。サーバーは米国にあり、AnthropicがAIリクエストを処理し、他のサブプロセッサがメール送信や決済を担う。各企業は独立したワークスペースを持ち、アクセス権限は役割に応じて厳密に管理されている。すべての変更履歴は記録され、以前のバージョンへの復元も可能だ。AI利用記録は機能、モデル、トークン数のみを保持し、テキストは保存されず、プロジェクトコンテンツはPDF、Word、PowerPoint、Markdown形式でエクスポートでき、アカウントは自己削除可能である。DPAはリクエストに応じて提供される。独立した監査や認証は現時点では存在しないと正直に表明している。

このように、AIツールの活用は日進月歩だが、その裏側で何が起きているのかを理解し、適切な対策を講じることが、システムエンジニアとして顧客の信頼を得る上で不可欠だ。将来、あなたがシステム開発や運用に携わる際、これらの知識を活かして、安全で信頼性の高いAIシステムを構築できるようになることを期待する。