【ITニュース解説】Generative and Predictive AI in Application Security: A Comprehensive Guide

アプリケーションセキュリティ（AppSec）の分野で人工知能（AI）がもたらす変化は、システムエンジニアを目指す上で注目すべき重要なテーマだ。AIは、ソフトウェアの脆弱性を高度に特定し、テストを自動化し、悪意のある活動まで自律的に検出する能力を持つため、現代のサイバー防御に不可欠な存在となりつつある。

AIがAppSecに登場するまでには段階的な発展があった。初期のセキュリティテストは、1980年代後半のファズテストに見られるような、プログラムにランダムな入力を与えて異常を検出するシンプルな自動化から始まった。その後、1990年代から2000年代初頭にかけては、開発者たちが自動化スクリプトやスキャナーで既知の脆弱性をパターンマッチングで探すようになったが、コードの文脈を理解できないため誤った警告（誤検知）が多いという課題があった。機械学習が登場すると、この状況は変化する。データ駆動型アルゴリズムがAppSecに導入され、例えばニューラルネットワークがネットワークの異常を検知したり、ベイジアンフィルターがスパムを識別したりする技術が発展した。静的分析ツールも進化し、コード内のデータの流れや実行経路を追跡できるようになり、コードの構文、実行順序、データフローを統合した「Code Property Graph (CPG)」という手法が注目を集めた。CPGは、コードベースをグラフとして表現することで、より深い意味での脆弱性評価を可能にし、従来のパターンチェックでは見つけられない多角的な脆弱性を特定する助けとなった。2016年のDARPA主催のサイバーグランドチャレンジでは、「Mayhem」というシステムが人間の介入なしにソフトウェアの脆弱性を自動で発見・悪用・修正する能力を示し、自律的なサイバー防御の可能性を大きく示した。

現代において、AIを活用したセキュリティソリューションは著しく進化している。特に、より優れたアルゴリズムと膨大な訓練データにより、機械学習モデルはソフトウェアの脆弱性やその悪用を予測する能力を向上させた。「Exploit Prediction Scoring System (EPSS)」は、多くの要素を分析して、実際にサイバー攻撃の標的となる可能性のある脆弱性を推定し、セキュリティ担当者が最も危険な弱点に集中できるようにする。また、深層学習モデルは大量のコードベースで訓練されることで、安全でないコーディングパターンをソースコードの中から特定できるようになった。大規模言語モデル（LLM）のような生成AIは、新しいテストケースを生成することでセキュリティタスクを改善し、例えばGoogleのセキュリティチームはLLMを利用してオープンソースライブラリ用のテストハーネスを生成し、より少ない労力で多くの脆弱性を発見した。

現代のソフトウェア防御では、AIは「生成AI（Generative AI）」と「予測AI（Predictive AI）」の二つのカテゴリで活用されている。生成AIは、テスト、コード、エクスプロイトといった新しいデータを生み出す。例えば、従来のランダムなファズテストに代わり、より戦略的なテストケースを考案したり、既知の脆弱性に対する概念実証（PoC）コードを生成したりする。これは防御側が自社の防御をテストし対策を開発するのに役立つ一方、攻撃者側も悪意のあるタスクの自動化に利用する可能性がある。予測AIは、コードベースを分析して潜在的なバグを見つけ出し、脆弱性の検出やリスク評価に貢献する。特定のルールに頼るのではなく、数多くの安全な・脆弱なコードスニペットから学習し、ルールベースのシステムでは見逃されがちなパターンを認識する。これにより、疑わしいコード構造にフラグを立て、新しく発見された問題のリスクを評価する。脆弱性の優先順位付けも予測AIの重要な用途で、機械学習モデルが脆弱性が実際に悪用される可能性に基づいて順序付けを行い、セキュリティ専門家が最も深刻なリスクに集中できるようにする。

AIは、静的アプリケーションセキュリティテスト（SAST）、動的アプリケーションセキュリティテスト（DAST）、対話型アプリケーションセキュリティテスト（IAST）といった従来のセキュリティテストツールも強化する。SASTでは、AIは機械学習による制御フロー分析を通じて、発見された問題の中から実際に悪用可能なものだけを識別し、誤検知を大幅に削減する。DASTでは、AIは自律的なクローリングとインテリジェントなペイロード生成によりテストカバレッジを向上させ、誤検知を減らす。IASTでは、AIモデルが大量の計測結果を解釈し、ユーザー入力が未処理のまま危険な機能に到達するようなリスクのあるフローを見つけ出し、真の危険だけを浮き彫りにする。今日のコードスキャンシステムは、パターンマッチング、シグネチャ、Code Property Graphといった手法を組み合わせ、AI駆動の分析で詳細なセマンティック理解と結果のランク付けを強化している。

クラウドネイティブ化に伴い重要度が増したコンテナやサプライチェーンのセキュリティでもAIは活躍する。AI駆動のコンテナ分析ツールは、既知の脆弱性や設定ミス、秘密情報を検査するだけでなく、AIベースの異常検出がランタイム時の不審な動作を検知する。サプライチェーンリスクにおいては、AIはオープンソースパッケージの悪意ある挙動を監視し、その脆弱性履歴から侵害される可能性を評価し、最も疑わしい要素に焦点を当てる手助けをする。

しかし、AIは強力な能力を持つ一方で、万能ではない。誤検知（無害なコードを危険と判断）と見逃し（実際の脆弱性を見落とす）は常に課題であり、その真の危険性を評価することは難しい。AIモデルは訓練データの偏り（バイアス）により特定の脆弱性を見逃したり、誤った判断をしたりする可能性があり、全く新しいタイプの脆弱性（ゼロデイ脆弱性）は、既存の知識と一致しないためAIの目から逃れることがある。悪意のある者たちも「敵対的AI」を利用して防御機構を欺こうとするため、AIベースのソリューションは常に更新されなければならない。

最近注目されている「エージェント型AI」は、単なるツールの域を超え、自律的にタスクを実行できるプログラムだ。セキュリティ分野では、AIが複数ステップのプロセスを制御し、リアルタイムのフィードバックに適応し、最小限の人間の介入で意思決定を行えることを意味する。これは、攻撃者側が自律的にレッドチーム演習を実施したり、防御側がネットワークを監視し、疑わしいイベントに自動で対応したりする用途で活用される。しかし、エージェント型AIは意図しないシステムへの損害や、攻撃者による悪用のリスクも孕んでおり、堅牢な安全装置や人間の承認が不可欠だ。

AIのアプリケーションセキュリティにおける役割は今後も加速するだろう。今後数年間で、AIアシストコーディングやAIベースのファズテストは標準化され、誤検知の削減が進むと予想される。攻撃者も生成AIをソーシャルエンジニアリングに悪用するため、防御システムも絶えず進化する必要がある。長期的には、AIが開発・セキュリティ・運用の一体化（DevSecOps）全体を再構築し、AIがコードの大部分を生成しセキュリティを組み込む「AI拡張開発」や、脆弱性を自動で修正するツール、AIエージェントがリアルタイムで脅威と戦う「プロアクティブな継続的防御」が実現するかもしれない。AIの利用は、プライバシーやバイアスといった倫理的な問題、データポイズニングや敵対的AIによる脅威も提起しており、AI自体のセキュリティ確保がAppSecの重要な側面となる。

結論として、AIはセキュリティ専門家が弱点を早期に発見し、高リスクな問題に集中し、反復的な作業を自動化するための強力な味方である。しかし、AIは完璧ではなく、誤検知、バイアス、ゼロデイ脆弱性への対応には熟練した人間の監督が不可欠である。組織がAIを責任ある方法で導入し、専門家による分析、規制順守、継続的な更新と統合することで、常に変化するアプリケーションセキュリティの世界で優位に立つことができるだろう。AIの進歩は、よりセキュアなソフトウェアエコシステムを実現する可能性を秘めている。