【ITニュース解説】Microsoft Flags AI-Driven Phishing: LLM-Crafted SVG Files Outsmart Email Security

Microsoftは最近、新たな種類のフィッシング詐欺が広がっていることを警告した。この攻撃は特に米国の組織を標的としているが、その手法は非常に巧妙であり、システムエンジニアを目指す皆さんにとって、現代のサイバーセキュリティの脅威とAI技術の悪用について理解を深める良い機会となるだろう。

フィッシング詐欺とは、簡単に言えば、偽のメールやウェブサイトを使って、相手を騙し、個人情報やログイン情報、クレジットカード情報などの重要な情報を盗み出す手口である。攻撃者は、銀行や有名な企業、公的機関などを装ってメールを送りつけ、受信者が本物だと信じ込ませて偽のウェブサイトへ誘導したり、添付ファイルを開かせたりする。そこで情報を入力したり、マルウェア（悪意のあるソフトウェア）に感染させられたりすることで、被害が発生する。これまでもフィッシング詐欺は多数存在したが、今回のMicrosoftの警告は、その背後に「大規模言語モデル（LLM）」という最新のAI技術が関与している可能性を指摘している点で注目に値する。

LLMとは、ChatGPTのような対話型AIの基盤となっている技術のことである。膨大なテキストデータを学習することで、人間が話すような自然な文章を生成したり、プログラムのコードを作成したりすることが可能になる。今回のフィッシング詐欺では、このLLMが、攻撃のためのコード生成や、セキュリティ対策を回避するための手法の生成に利用された可能性が高いとされている。これにより、攻撃者はより効率的に、そしてより高度な攻撃を作成できるようになっている。

この攻撃の具体的な手口の一つは、「SVGファイル」という画像形式の悪用である。SVGとは、Scalable Vector Graphicsの略で、XMLという形式で記述されたベクター画像ファイルの一種である。通常の画像ファイル（JPEGやPNGなど）は点の集まりで表現されるが、SVGは図形や線、色などの情報をテキスト形式で記述するため、拡大しても画質が劣化しないという特徴がある。そして、このSVGファイルの重要な特性として、XMLベースであるため、内部にスクリプト（JavaScriptなどのプログラムコード）を埋め込むことが可能だという点がある。本来、これはウェブページ上でインタラクティブな要素やアニメーションを表現するために利用される便利な機能だが、悪意のある攻撃者はこの特性を逆手にとった。彼らは、見た目は何の変哲もない画像ファイルに見えるSVGファイルの中に、悪意のあるプログラムコードを巧妙に隠し込んだのだ。

さらに、攻撃は「難読化」という手法を駆使している。難読化とは、プログラムコードを人間に読みにくくしたり、セキュリティソフトウェアによる分析を困難にしたりするために、意図的に複雑にしたり、意味不明な文字列に変換したりする技術のことである。例えば、変数名を無意味な名前に変更したり、コードの実行フローを複雑にしたり、暗号化したりするなどの手法が用いられる。今回のケースでは、LLMがこのような難読化されたコードの生成に一役買っている可能性が指摘されている。LLMは複雑なパターンを学習し、それに従って新しいコードを生成する能力に長けているため、人間が手作業で作成するよりも、より高度で解読しにくい難読化コードを効率的に作り出すことが可能になる。

この難読化された悪意のあるSVGファイルは、電子メールに添付されたり、リンク経由でダウンロードさせられたりする。そして、受信者がこのファイルを開くと、内部に隠された悪意のあるスクリプトが実行されることで、マルウェアのダウンロードや情報の窃取といった被害が発生する仕組みである。攻撃者は、メールの内容もLLMを使って、ビジネス上の取引を装うような、非常に自然で信憑性の高い文章を作成したと考えられる。これにより、受信者は不審に思わず、添付ファイルを開いてしまう可能性が高まる。つまり、LLMは、攻撃の入り口となるメールの作成から、実際に被害を引き起こす悪意のあるコードの難読化まで、攻撃の様々な段階で利用されている可能性が高いのだ。

この攻撃の最大の脅威は、従来のメールセキュリティシステムを出し抜く能力にある。多くのセキュリティシステムは、既知のマルウェアのシグネチャ（特徴的なパターン）や、典型的なフィッシング詐欺のパターンを検知することで、脅威をブロックする。しかし、LLMによって生成された新しい、かつ高度に難読化されたSVGファイルは、これまでのシグネチャベースの検知では見つけにくい。また、SVGファイルは画像ファイルとして扱われることが多いため、コードを埋め込めるという特性が見落とされがちであったり、悪意のあるJavaScriptが通常のウェブサイトのコードと区別しにくいという側面もある。これにより、セキュリティシステムをすり抜けてユーザーの手元に届いてしまう危険性が増しているのだ。

システムエンジニアとして、このような最新の脅威の動向を把握しておくことは非常に重要である。AI技術は私たちに多くの恩恵をもたらすが、同時にサイバー攻撃の高度化にも繋がる可能性がある。今後、LLMのようなAI技術が悪用されるケースはさらに増えていくだろう。そのため、セキュリティ担当者やシステム開発者は、常に最新の攻撃手法を学び、それに対応する防御策を講じていく必要がある。例えば、ファイルの中身を詳細に検査する「サンドボックス」技術や、振る舞い検知に基づくセキュリティ対策の強化、そして何よりも、不審なメールや添付ファイルを開かないというユーザー側の意識の向上が求められる。このMicrosoftの警告は、AI時代におけるサイバーセキュリティの新たな課題を明確に示しており、私たちエンジニアが向き合うべき重要なテーマであると言える。