人工知能はサイバーセキュリティの状況を変え続けており、多くのセキュリティ専門家は現在、AIがより高い能力を持つサイバー犯罪者の世代を生み出す手助けにもなっていると考えている。
最近、数千人のCybersecurity Insiderニュースレター購読者を対象に、シンプルだが重要な質問を投げかけた：AIはスキルを持つ新世代の脅威アクターを生み出しているのか？
調査の主なポイント
- 調査対象となったサイバーセキュリティ専門家のほぼ半数（47.1％）は、AIがより高い能力を持つサイバー犯罪者の世代を生み出す手助けになっていると考えている。
- さらに29.4％は、AIによって参入障壁が下がり、経験の浅い攻撃者でも高度なキャンペーンを展開できるようになっていると回答した。
- 脅威アクターは、フィッシングメールの作成、マルウェアの構築、マルウェアの難読化、偵察、ソーシャルエンジニアリングにAIをますます利用している。
- セキュリティチームはすでに、AIで生成されたフィッシングの誘い文句やAI支援型攻撃の手法が、より大規模かつ説得力のあるものになっていることを確認している。
- AIの役割が拡大する一方で、多くの専門家は、サイバー犯罪を成功させるには依然として人間の専門知識、適切な運用セキュリティ（OPSEC）、戦略的な計画が必要だと考えている。
調査結果からは、サイバーセキュリティ業界全体で懸念が高まっていることが分かる。
回答者のほぼ半数（47.1％）は、AIが脅威アクターの技術的スキル向上を積極的に支援していると考え、「はい」と回答した。
さらに29.4％は、AIの主な効果は参入障壁を下げることにあり、経験の浅い攻撃者でも高度なキャンペーンを展開しやすくなっていると回答した。
一方、23.5％は、実際の技術的専門知識は依然として必要であり、AIだけでは能力のある敵対者を生み出せないと考えた。
AIがサイバー犯罪者の活動を変える方法
この調査結果は、サイバー犯罪のエコシステム全体で起きている、より広範な変化を反映している。
これまで、高度な攻撃を仕掛けるには、マルウェア開発、スクリプト作成、エクスプロイトチェーン、インフラ管理、ソーシャルエンジニアリングなどに関する深い技術的専門知識が必要になることが多かった。
現在では、生成AIツールがこうしたワークフローの一部を自動化するようになっている。
攻撃者は現在、AIを使ってフィッシングメールを生成し、悪意のあるスクリプトを作成し、マルウェアの難読化を改善し、盗み出したデータを要約し、攻撃を複数の言語に翻訳し、さらにはリアルタイムでコーディングエラーの解決まで行える。
多くの防御側にとって懸念すべき点は、AIが一夜にしてエリートハッカーを生み出すことではなく、既存のサイバー犯罪者のスキル開発と業務効率を加速させていることだ。
AIツールは、これまでなら指導者、アンダーグラウンドのリソース、あるいは何年もの実践的な独学が必要だった作業を、経験の浅い脅威アクターでも実行できるよう支援する。
この変化は、より大規模なフィッシングキャンペーン、認証情報窃取活動、ビジネスメール詐欺攻撃の増加にもつながる可能性がある。
AIが攻撃者の参入障壁を下げている
調査結果は、利用しやすさをめぐる不安が高まっていることも示している。
回答者のほぼ3分の1は、AIを、技術的専門知識を完全に置き換えるものというより、主に参入障壁を下げる力と捉えていた。
ランサムウェアのアフィリエイト、フィッシング運用者、初期アクセスブローカーは、高度なエクスプロイトを自ら構築するよりも、自動化、盗み出した認証情報、ソーシャルエンジニアリングにますます依存している。
セキュリティチームはすでにAI主導の脅威を確認している
セキュリティチームはすでに、こうした進化の証拠を確認している。
AI生成フィッシングの誘い文句は、よりパーソナライズされ、文法的にも洗練されているため、従業員が見抜くのは難しくなっている。
脅威アクターは、AI支援型の偵察、偽のペルソナ、ディープフェイク音声、自動化された脆弱性調査にも取り組んでいる。
AIで生成された攻撃手法の多くは依然として人間による監督を必要とするが、この技術によって攻撃者はより迅速に動き、より大規模に活動できるようになっている。
サイバー犯罪では依然として人間の専門知識が重要
同時に、調査への回答からは、多くのサイバーセキュリティ専門家が依然として基礎的な技術スキルは不可欠だと考えていることが分かる。
AIだけでスキルのある脅威アクターが生まれるという考えを否定した23.5％の回答者は、サイバー攻撃の成功には依然として、適切な運用セキュリティ、永続化技術、インフラ管理、現実世界での経験が必要だと認識しているのだろう。
AIは攻撃者を支援するかもしれないが、専門知識や創造性、戦略的な計画を完全に置き換えるものではないと私は考えている。
現代のサイバー犯罪におけるAIの攻撃力増幅効果
それでも、全体的な傾向は明らかだ。防御側はAIをサイバー犯罪の攻撃力を増幅する手段と見る傾向を強めている。
組織がエンタープライズ環境へのAIの統合を進める中、生産性と自動化を推進する同じ技術が、敵対者の能力を高める可能性もある。
これによりセキュリティチームには、従来の侵害指標だけに頼るのではなく、可視性を高め、アイデンティティ保護を強化し、振る舞い検知に投資することが新たに求められる。
調査結果は最終的に、急速に変化する脅威環境に適応するサイバーセキュリティ業界の姿を映し出している。
AIが「スキルのある」脅威アクターを生み出しているのか、それとも経験の浅い攻撃者に力を与えているだけなのかはともかく、多くのセキュリティ専門家は、攻撃の開発、拡張、実行の方法をAIが変えつつあるという点で一致している。