【ITニュース解説】The generative AI boom creates new privacy and security risks

ChatGPTをはじめとする生成AIの技術は、ビジネスの世界に大きな変化をもたらしている。文章の作成、プログラムコードの生成、複雑なデータの分析など、これまで時間のかかっていた作業を瞬時にこなす能力は、企業の生産性を飛躍的に向上させる可能性を秘めている。多くの企業がこの新しい技術を業務に取り入れようと動き出しているが、その便利さの裏側には、これまでになかった新しいプライバシーとセキュリティのリスクが潜んでいることを理解する必要がある。

生成AIがもたらすリスクの根源は、従業員が業務効率を上げるために、どのような情報をAIに入力しているかという点にある。例えば、ある営業担当者が顧客への提案メールを作成するために、顧客企業の内部情報や個人名、連絡先などが含まれた会議の議事録を、そのままChatGPTの入力画面にコピー＆ペーストしたとする。AIは優れた文章を作成してくれるが、この行為によって、本来は社外秘であるはずの機密情報が、AIを開発・運営する企業のサーバーに送信されてしまうことになる。AIモデルの多くは、入力されたデータを学習のために利用することがある。これは、AIがより賢くなるために必要なプロセスではあるが、もし入力された機密情報が学習データに取り込まれてしまった場合、将来的に全く別のユーザーがAIに質問した際、その回答の一部として自社の機密情報が意図せず表示されてしまうという情報漏洩のリスクにつながる。

このリスクは、ChatGPTのような対話型AIを直接利用する場面だけに留まらない。現代のビジネスでは、Google DriveやDropboxといったファイル共有サービス、SalesforceのようなCRM（顧客関係管理システム）など、様々なクラウドサービスが日常的に利用されている。これらのサービスには、顧客情報、契約書、財務データといった極めて重要な情報が大量に保管されている。そして今、これらの既存ツールと生成AIを連携させ、業務をさらに自動化・効率化しようという動きが加速している。例えば、CRMに蓄積された全顧客とのやり取りを生成AIに読み込ませて、今月の営業活動の要約レポートを自動作成させる、といった活用方法が考えられる。これは非常に便利だが、連携の設定を誤ったり、安全性が確保されていないAIサービスを利用したりすると、CRM内の膨大な機密データが丸ごと外部のAIサーバーに送信され、深刻なデータ漏洩事故を引き起こす危険性をはらんでいる。

さらに、生成AI特有の攻撃手法も出現している。その一つが「プロンプトインジェクション」と呼ばれる攻撃だ。これは、攻撃者がAIに対して巧妙に細工された指示文（プロンプト）を入力することで、AIの本来の制約を回避させ、開発者が意図しない動作を引き起こさせる手法である。これによって、AIがアクセスできる範囲の非公開情報や、他のユーザーとのやり取りの内容などを不正に引き出される可能性がある。また、企業が公式に利用を許可していないにもかかわらず、従業員が個人で契約したAIツールなどを業務に利用してしまう「シャドーAI」も大きな問題だ。シャドーAIは、企業のIT部門がその存在を把握・管理できないため、どのようなデータがやり取りされているのか分からず、セキュリティ上の大きな抜け穴となる。

では、こうしたリスクに対して、企業はどのように対策すれば良いのだろうか。重要なのは、データの流れを適切に管理するための「ガードレール」を設けることだ。まず最初に行うべきは、社内のデータが、どの部署で、どのツールを経由して、どのように利用されているのか、その全体像を可視化し、把握することである。その上で、機密情報が不正に外部へ送信されるのを自動的に検知し、ブロックするDLP（Data Loss Prevention）と呼ばれるセキュリティシステムを導入することが有効な対策となる。このDLPの監視対象に、生成AIサービスへのデータ送信を含めることで、従業員による意図しない情報漏洩を防ぐことができる。また、技術的な対策だけでなく、従業員一人ひとりへの教育も不可欠だ。「どのような情報をAIに入力してはいけないのか」「会社が許可しているAIツールはどれか」といった明確な社内ルールを策定し、全従業員に周知徹底することが重要になる。

企業側が、従業員が安全に生成AIを活用できる環境を積極的に提供することも求められる。例えば、入力したデータがAIの学習には利用されない設定が保証されているビジネス向けのAPI（Application Programming Interface）を経由してAIを利用する仕組みを構築したり、社内データのみを学習させたプライベートなAI環境を構築したりすることで、従業員はシャドーAIに頼ることなく、安心して業務にAIを活用できるようになる。

生成AIは、正しく使えば業務を劇的に変革する力を持つ強力なツールである。しかし、その仕組みや潜在的なリスクを理解せずに利用することは、例えるなら、交通ルールを知らずに高速道路を走るようなものだ。これからのシステムエンジニアには、単に新しい技術を使いこなすだけでなく、その裏側にあるリスクを予見し、技術とルールの両面から安全な利用環境を設計・構築していくという、より高度で複合的な視点が不可欠となるだろう。