【ITニュース解説】The Rise of Offensive AI: How Adversaries are Weaponizing Machine Learning

サイバー攻撃の世界は大きな変化を迎えている。かつての攻撃者は手動でコマンドを打ち込むイメージだったが、現代では古くなりつつある。今日の脅威を生み出す攻撃者は、人工知能（AI）によって能力が拡張され、攻撃の速度が格段に上がった「拡張された人間」なのだ。サイバーセキュリティにおけるAIの暗黒面はSFではなく、現実の脅威として具体的に現れている。攻撃者たちは機械学習の技術を積極的に悪用し、これまでにないほど高速で、広範囲に展開可能で、だますのが巧妙で、状況に適応するサイバー攻撃を作り出している。

このAIの武器化は、悪意を持った自律的なAIを作ることではない。高度なアルゴリズムを応用して、サイバー攻撃の全ての段階を大幅に強化することだ。AIは「力の増幅器」として機能し、複雑な攻撃を行うための敷居を下げ、洗練された攻撃者がこれまで考えられなかった規模と速さで活動できるようにする。ここでは、悪意ある行為者が攻撃型AIを具体的にどのように利用しているのか、そして私たちがいかに防御を進化させるべきかを解説する。

まず、AIは未知の脆弱性の発見を自動化する。攻撃者にとって究極の目標は、ゼロデイ脆弱性だ。これは、ソフトウェアの欠陥で、ベンダーに知られておらず、修正プログラム（パッチ）も存在しない状態を指す。伝統的にこの発見には、プログラムに大量の異常なデータを送り込む「ファジング」という手作業が非効率ながら行われていた。AIパワードファジングは、強化学習モデルを応用することで、これまでの入力結果から学習し、悪用可能なバグが含まれる可能性が高いコード領域に重点を置いて探索を進める。この技術はゼロデイ脆弱性の発見を劇的に加速させ、脆弱性が存在してから攻撃に悪用されるまでの時間を驚くほど短くしている。

次に、AIは人間の信頼を悪用するソーシャルエンジニアリングを巧妙化させる。セキュリティにおいて、人間は常に最も弱いリンクであった。文法ミスだらけの稚拙なフィッシングメールの時代は終わりつつある。ChatGPTのような技術を支える大規模言語モデル（LLM）は、悪意のあるツールとして再利用され、極めてリアルで、文脈を理解した、特定の個人を狙ったスピアフィッシングメールやビジネスメール詐欺（BEC）のメッセージを作成する。AIにターゲットの公開情報や企業情報を入力すると、AIはまるでCEOが書いたかのような説得力のあるメッセージを作り出すことができる。脅威はテキストだけにとどまらない。音声合成、つまり音声ディープフェイクも恐ろしいほど効果的でアクセスしやすくなっている。攻撃者は、たった数秒の音声から、その人物が何を言っても完全に合成された新しい音声を生成できるモデルを訓練できる。これにより、音声フィッシング（vishing）攻撃が大幅に強化された。例えば、2023年のMGMとシーザーズのカジノに対する侵害は、ITヘルプデスクへの簡単な電話で攻撃者が従業員になりすますことから始まったが、近い将来、そのなりすましはAIによって完璧に生成された従業員の音声の複製となるだろう。この技術は、電話の向こうの声が本当に人間なのか、それとも悪意のあるアルゴリズムなのかを疑うことを強いる。

さらに、AIは知的で適応性の高いマルウェアを進化させる。長年にわたり、ポリモーフィックマルウェアは、事前にプログラムされたルールを使って感染ごとにコードを変化させることで、ウイルス対策ソフトからの検出を回避しようとしてきた。AIは、単にルールに従うだけでなく、学習して自身で意思決定を行う、真に適応性の高いマルウェアの可能性をもたらしている。AI駆動型のマルウェアは、一度ネットワーク内部に侵入すると、「全ての財務データを見つけて外部に持ち出す」といった目標を与えられる。遠隔地の人間オペレーターに頼ることなく、マルウェア自体が内部偵察を行い、ネットワーク内に存在する防御ツールを分析し、リアルタイムで自身の戦術、技術、手順（TTPs）を適応させて検出を回避できるようになる。例えば、特定のEDR（エンドポイント検出と応答）ソリューションによって保護されている環境で実行されていることを検出するマルウェアは、その製品に効果的な回避技術を選択できる。これはマルウェアを静的なツールから、動的で自律的なエージェントへと移行させるものだ。このレベルの洗練度はまだ最先端の研究段階にあるが、攻撃者にとっての究極の目標は、機械の速度と人間のオペレーターのずる賢さで目標を達成できるマルウェアを展開することであり、検出と対応の機会は極めて小さくなる。

また、AIは攻撃対象領域の発見を光速で自動化する。攻撃を開始する前に、攻撃者はターゲットを理解する必要がある。この偵察フェーズは「攻撃対象領域の発見」として知られ、伝統的には多くの手作業を伴っていた。AIはこのプロセスを自動化し、完璧なものにしている。機械学習モデルは、インターネット全体のデータ、DNSレコード、GitHubのようなコードリポジトリ、ソーシャルメディアなど、膨大で異なるデータセットを取り込み、それらを関連付けて、組織のデジタルフットプリントの包括的かつ正確なマップを構築するように訓練できる。AIは、人間には不可能な方法で点と点をつなぎ、古いウェブサーバー、誤って露出されたAPIキー、内部ネットワークへの直接的な経路を提供するクラウドサービスの設定ミスなどを見つけ出すことができる。これにより攻撃者は、人間チームでは到底追いつけない速度と効率で、最も抵抗の少ない経路を特定し、彼らの攻撃が防御の最も弱い部分に対して行われることを確実にする。

この攻撃型AIの台頭は、避けられない敗北を意味するものではない。むしろ、AIをセキュリティ対策の中核に据える、新世代の防御技術を受け入れるための緊急の必要性を生み出している。AIを強力な攻撃ツールにするのと同じ原則は、AIを革新的な防御ツールにもする。自動化され、適応する攻撃者と戦う唯一持続可能な方法は、自動化され、適応する防御で対抗することだ。現代のセキュリティは、高度な異常検出のために機械学習にますます依存している。防御型AIモデルは、大量のデータに基づいて訓練され、ネットワーク上の全てのユーザー、デバイス、アプリケーションの「通常の」振る舞いについて、非常に詳細で常に進化するベースラインを構築する。AI駆動型攻撃が開始されたとき、その行動は、たとえ新しいツールや技術を使ったとしても、この確立されたベースラインから必然的に逸脱する。防御型AIが検出するのは、この逸脱なのだ。例えば、普段はニューヨークから午前9時にログインするユーザーが、突然東ヨーロッパから午前3時に認証しようとするような、AIがリアルタイムで警告できる微妙な異常がそれである。さらに、防御型AIは次世代の脅威ハンティングを強化するために利用されており、人間のアナリストには見えないだろう侵害のわずかな兆候を見つけるために、数十億のログエントリを精査する。音声やビデオストリーム内のディープフェイクの痕跡を検出するための専門的なモデルも構築されている。将来のセキュリティ運用は、人間のアナリストをAIで置き換えることではなく、AIで彼らを補強し、洗練された自動防御システムの戦略的な制御者に変えることになるだろう。この新しい状況において、人間の専門知識はこれまで以上に重要であり、モデルを訓練し、その発見を解釈し、課題を管理するために必要とされる。攻撃型AIの台頭は手ごわい課題だが、賢く、速く、回復力のあるセキュリティアーキテクチャを構築するよう私たちを強制する触媒でもある。