つい最近まで、サイバーセキュリティはほぼ完全に事後対応型だった。
組織は常に防御に回りながら、テレメトリーデータを収集して侵入インシデントを分析し、その結果を検知プロトコルの策定に生かしていた。
このアプローチの問題は、攻撃者がすでに行ったことしか把握できない点にある。
多くの組織は、決して理想的とはいえない事後対応型のサイバーセキュリティ体制を採用してきた。脆弱性の特定と脆弱性へのパッチ適用は、テクノロジーが数年かけて発展していた時代には、ある程度機能する戦略だった。1990年代後半から2000年代初頭にかけてのワールド・ワイド・ウェブの普及や、クラウドコンピューティングへの移行がその例だ。
しかし、エージェント型AIの登場によって、そのタイムラインは数週間にまで短縮された。侵入イベントにただ反応するだけでは、エージェント型AIがもたらす脅威を軽減するにはまったく不十分であり、そうすることは事実上、敵対者に降伏するのと同じだ。
過去のサイバー攻撃を調べるだけでは、ネットワークをAI対応の攻撃者から守るのに不十分だとすれば、企業はこれらの脅威にどう立ち向かえばよいのか。考えられるあらゆる攻撃シナリオを予測し、モデル化し、ウォーゲームで検証するしかない。
ハイパー合成データで起こり得る未来をモデル化する
エージェント型AIに効果的に対抗する唯一の方法は、エージェント型AIを導入することであり、そのためにはエージェント型の防御を訓練・検証するための信頼できるデータが必要になる。
これは研究者にとってパラドックスを生む。これまで見たことのない攻撃シナリオを、存在しないデータでどうモデル化し、シミュレーションすればよいのか。答えはハイパー合成データ（HSD）だ。
HSDとは、テストやシミュレーションの目的でLLMや機械学習モデルが生成するデータだ。ほぼあらゆるパラメーターについて大規模に生成できるため、企業は自社ネットワークが直面する可能性の高い攻撃シナリオを、高い忠実度でシミュレーションできる。
これは本番環境から完全に分離された、安全な隔離テスト環境で行う。こうした環境では、OSやセキュリティアプリケーションを含む組織の実際のネットワークインフラを精密に再現する。無害なネットワークトラフィックが現実的な運用ノイズとなり、その中でエージェントの挙動をテストし、検証できる。
次に、こうしたシミュレーションネットワークを、ID中心の攻撃や環境寄生型の永続化を含む実際のマルウェアで攻撃し、正確な訓練データを作成するとともに、先回りした検知ルールを実装する。
これらのシミュレーションの有効性と正確性は、現実的なテスト条件に大きく左右される。エージェント型テクノロジーは、環境が単純化されすぎていたり、ゲーム化されていたりすると検知できるため、テストデータが不正確になる可能性がある。
組織は自社のネットワークの防御をテストし、脅威アクターが悪用する可能性の高い攻撃経路と具体的な脆弱性を特定しなければならない。実証されていないエージェントを本番環境に導入することなく、実施する必要がある。
過去から学べることには限界がある
追加のリスクにさらされることに加え、事後対応型のセキュリティポリシーの最大の欠点は、どれほど詳細に記録されていても、過去はすでに起きた出来事だという点にある。セキュリティインシデントから可能な限り学ぶ努力はできるし、そうすべきでもある。しかし、次世代の脅威を効果的に軽減するには、前を見据えるしかない。
過去の攻撃データにも、なお用途はある。今年初めに起きたOpenAI Hugging Face（OAI-HF）侵害のような個々のインシデントを詳細に記録すれば、特定の脆弱性がどのように悪用されたのか、侵入者が攻撃チェーンをどのように進んだのかを研究者が特定できる。しかし、過去のインシデントだけを根拠に将来のセキュリティ上の判断を下すのは、パッチ適用の効率化だけに注目するのと同じくらい見当違いだ。
近い将来、そして予見可能な未来に私たちが目にする可能性が高い最も深刻なサイバー攻撃は、創意工夫と規模の両面で、これまで見たことのないものになるだろう。
一方、メディアはゼロデイエクスプロイトやモデルによる封じ込め突破といったセンセーショナルな見出しに気を取られているかもしれないが、エージェント型サイバー攻撃の最大の脅威の一つは、既知の攻撃ワークフローを数百万単位で並列かつ同時に指揮・実行できる能力にある。
エージェント型攻撃の頻度が高まり、規模と速度が増すにつれて、過去の攻撃データの有用性は低下する。一方で、シミュレーションデータはかけがえのないものになる。
自動化は小さく始める――ただし、早く始める
真に自律型のサイバー防御の実現にはまだ時間がかかるが、セキュリティリーダーが行動を起こす機会の窓は閉じつつある。攻撃者は一度成功すればよいのに対し、防御側は常に警戒し続けなければならないため、脅威アクターは常に優位に立ってきた。しかし、エージェント型AIは潜在的なリスク要因を人間の能力をはるかに超えて増大させる。つまり、ネットワーク、検知ルール、そしてチームのレジリエンスをテストしなければならない。
防御ライフサイクルのどの側面を自動化する場合でも、小さく始めよう。初期テストでは、アイデンティティ管理やアクセス制御、あるいは対応・復旧のプロトコルに焦点を当ててもよい。
シミュレーションは、エージェントを現実世界の条件下でテストし、検証できる、安全で隔離された環境で実施すべきだ。最も重要なのは、実際の顧客データや業務データが意図せず侵害される可能性のある本番環境から十分離れた場所で、こうしたテストを行うことだ。
エージェント型テクノロジーが成熟するにつれ、サイバー防御はAI対応攻撃への耐性をますます高めていくだろう。しかし当面、セキュリティリーダーは依然として大きく防御側に立たされている。行動を起こすべき時は今だが、緊急性のあまり、質の高いデータ、責任ある制御、そして質の高いエンジニアリング慣行を犠牲にしてはならない。
防御のテストを始める準備はできましたか？その方法を知るには、 侵害・攻撃シミュレーションが、攻撃者に悪用される前にチームがセキュリティ上の抜け穴を特定するのにどう役立つかをご覧ください。