組織が人工知能（AI）を急速に導入する中、セキュリティチームはフロンティアAIモデルが企業のサイバーリスクをどのように変えるのかの把握を急いでいる。
理論上のシナリオに頼るのではなく、Zscalerは90日間を費やし、AnthropicとOpenAIのフロンティアAIモデルを使って、数十の実在する企業環境を攻撃者の視点から評価した。
その結果からは、AIがまったく新たな脆弱性を生み出しているのではなく、既存のセキュリティ上の弱点の悪用を加速させていることがうかがえる。
Zscalerによると、評価対象となったすべての組織に、AIを駆使する攻撃者が悪用可能な重大な脆弱性が存在していた。
同社は報告したところ、組織の100%で管理されていないAIへの露出が確認され、90%ではVPNアプライアンスが依然としてインターネットに公開され、53%ではCISA KEVカタログに掲載された脆弱性を持つインターネット公開資産が維持されていた。
攻撃者の視点でテストしたところ、最初の重大なセキュリティ障害が発生するまでの中央値はわずか16分で、環境の90%が90分未満で侵害された。
ZscalerのAIセキュリティギャップ調査における主なポイント
- 評価対象となった組織の100%で管理されていないAIへの露出が確認され、90%ではVPNアプライアンスがインターネットに公開され、53%ではインターネットに公開されたCISA既知の悪用脆弱性（KEV）が存在した。
- 攻撃者の視点でテストしたところ、最初の重大なセキュリティ障害が発生するまでの中央値は16分で、環境の90%が90分未満で侵害された。
- フロンティアAIは、新たなゼロデイ攻撃を頼るのではなく、既存のセキュリティ上の弱点を急速に連鎖させ、完全な攻撃経路へとつなげた。
- より強固なゼロトラストアーキテクチャ、TLSインスペクション、継続的な監視を導入している組織は、はるかに高いレジリエンスを示した。
- CISOは、AIを駆使する脅威に追いつくため、継続的なAIガバナンス、露出管理、アイデンティティセキュリティ、定期的なAIレッドチーム演習を優先すべきだ。
AIが既存の弱点の悪用を加速
Deepen Desai氏（Zscalerの最高セキュリティ責任者兼研究開発担当EVP）は、他の企業アプリケーションに求められるものと同じセキュリティ対策を適用しないまま、組織がAIサービスを公開していると述べた。
「適切なセキュリティ対策もなく、ログインもアイデンティティチェックも、実質的な監督もないまま、AIツールがオンラインに公開されているように見える」と、Desai氏はeSecurity Planetへのメールで述べた。
さらに同氏は、「企業がAIの展開を急いで進めており、それに追いつくためにセキュリティチームが早い段階から関与することが通常ないため、こうした状況が頻繁に起きている」と付け加えた。
高度なゼロデイ脆弱性に頼るのではなく、フロンティアAIモデルは迅速に特定し、複数の低リスクな弱点を組み合わせて攻撃を成功させる経路を構築する。
「通常、セキュリティツールが完全に欠けているわけではなく、攻撃者が素早く通り抜けられる隙間があまりにも多く残されているのです」とDesai氏は説明した。「AIは弱点を素早く見つけられるようになりましたが、それ以上に重要なのは、単独では重大に見えない小さな弱点を連鎖させられることです」
同氏はこのプロセスを、1つの入口では他人に続いてオフィスへ入り、別の場所で放置されたバッジを見つけ、監視が不十分なエリアを通り抜けることで、1つの鍵も壊さずにオフィスへ侵入する人物になぞらえた。
個々には、これらの問題のどれも壊滅的には見えないが、組み合わさることで侵入を成功させる。AIはこのプロセスを継続的に、機械の速度で実行する。
レガシーな露出がAIによってより大きなリスクに
この調査は、AIが偵察と悪用を自動化すると、長年存在してきたセキュリティ問題がいかに大幅に危険性を増すかも浮き彫りにしている。
Desai氏はこの変化を、生物学的なウイルスの増加になぞらえた。生物学そのものは変わっていないが、露出の速度と規模が変わったという。
同様に、根本的なセキュリティ脆弱性は変わらない一方、攻撃者がそれらを悪用できる速さをAIが劇的に加速させている。
「露出したアプライアンスのようなレガシーな弱点は新しいものではありません」と同氏は述べた。「新しいのは、AIを駆使する攻撃者がそれらを特定し、テストし、組み合わせて突破する速度が、リスクをまったく異なるものに変えるほど速いことです」
評価では、アイデンティティも主要な攻撃ベクトルの1つとして浮上した。Desai氏によると、フロンティアAIモデルは一貫して、侵害された認証情報と過剰なユーザー権限を標的にした。
「90%を超える組織では、セグメンテーションの成熟度が十分でないため、1つの盗まれた認証情報から数千の資産やアプリケーションへの経路が開かれます」と同氏は述べた。
ゼロトラストの実行がレジリエントな組織を分ける
Zscalerの研究者を驚かせた調査結果の1つは、多くの組織が基盤となるセキュリティ対策にはすでに対応済みだと考えていたにもかかわらず、AI主導のテストで悪用可能な隙間が繰り返し発見されたことだった。
「最大の驚きは、インスペクションポリシー、外部攻撃対象領域の削減、ラテラルムーブメントといった基本部分に、どれほど多くの露出が存在するかです」とDesai氏は述べた。「これらは新しい概念ではありませんが、AIによって、適切に実行するためのハードルが劇的に上がりました」
より高いレジリエンスを示した組織が、必ずしもまったく新しいテクノロジーを導入していたわけではない。
むしろ、トランスポート層セキュリティ（TLS）インスペクション、ゼロトラストアーキテクチャ、検知能力の向上、疑わしい活動に対するより強固な監視など、確立されたセキュリティ対策を一貫して実行していた。
「心強いのは、多くの企業がすでに保有しているもので、今すぐこれを実行できることです」とDesai氏は述べた。
AI導入に歩調を合わせたガバナンスが必要
AIの導入が業務のあらゆる機能にわたって拡大し続ける中、Desai氏は、CISOがまずAIサービスの稼働場所を可視化し、その上でアイデンティティ管理を強化し、不要なインターネットへの露出を減らすことを推奨している。
また、継続的な露出監視、AIレッドチーム演習、より強固なセグメンテーション、データ損失防止、欺瞞技術、テスト済みのインシデント復旧計画を通じた継続的なガバナンスも重視した。
今後について、Desai氏は、AIの能力が非常に速く進歩しているため、組織は計画の時間軸を数年から数週間へと短縮すべきだと考えている。
「組織には、数カ月ではなく12～24週間を想定して考えることを勧めます」と同氏は述べた。「脅威アクターはフロンティアAIモデルを手にすることになり、これはもはや理論上の問題ではありません」
セキュリティ責任者に対して同氏は、2つの問いに焦点を当てるよう推奨している。AIを駆使する攻撃者の視点から見た組織はどのような姿か、そしてインターネットに公開された単一の資産またはアイデンティティが侵害された場合、攻撃者はどこまで移動できるのか、という問いだ。
この2つの問いに自信を持って答えられない組織には、AIを駆使する攻撃者が急速に悪用できる、アーキテクチャ上および運用上の重大なギャップが存在する可能性がある。