人工知能（AI）は、もはや攻撃者の生産性を高めるだけの存在ではない。
ThreatDownの新たなレポートによると、AIは高度な攻撃への障壁を下げ、自律的な悪用を可能にすることで、サイバー犯罪のエコシステムを根本から変えつつある。
ThreatDownのAIサイバー犯罪レポートの主なポイント
- AIは自律的な偵察、エクスプロイト、攻撃計画を可能にし、高度なサイバー攻撃への障壁を下げている。
- 犯罪者は、ガードレールのないAIモデルや正規のAIインフラを利用し、サイバー活動を拡大するようになっている。
- シャドーAI、悪意あるAIエージェントのスキル、AI搭載型マルウェアが、企業のセキュリティとアイデンティティに新たなリスクをもたらしている。
- 研究者は、AIによってゼロデイの発見が大幅に加速し、脆弱性にパッチを適用するために防御側へ残される時間が短縮される可能性があると警告している。
- 組織は、AI搭載型脅威に備えるため、脆弱性管理、継続的な監視、シャドーAIのガバナンスを優先すべきだ。
AIがサイバー攻撃への障壁を下げる仕組み
レポートはまた、管理されていないAIの導入によって組織の攻撃対象領域が拡大し、攻撃者に新たな機会が生まれていると警告している。
研究者によれば、次世代のAI搭載型サイバー脅威が主流になる前に備えるため、組織に残された時間はおよそ6カ月と、狭まりつつある。
今回の調査結果は、現代のAIエージェントが、質問への回答やコード生成の域を超えて進化していることを浮き彫りにしている。
現在のモデルは、複雑なタスクを自律的に完了し、長時間にわたってソフトウェアを操作し、他のAIエージェントと協調できる。
こうした能力は正規の利用者の生産性を高める一方で、サイバー犯罪者にも強力な新たな攻撃ツールを提供する。
レポートが挙げた一例では、攻撃者が主流のAIモデルを使い、メキシコ政府の複数の組織を侵害した。
偵察の過程でAIは、自治体の水道事業体内部にある監視制御・データ収集（SCADA）インターフェースを特定し、それを重要インフラに分類したうえで、攻撃者に運用技術の事前知識がなかったにもかかわらず、攻撃経路を推奨した。
最終的に侵入は失敗したものの、このインシデントは、AIによって重要インフラを標的にするために必要な専門知識が大幅に減少し得ることを示した。
犯罪目的のAIツールが容易に利用可能に
研究者はまた、悪意あるAIツールがますます容易に利用できるようになっていることも明らかにした。
多くのアンダーグラウンドサービスは、犯罪者が独自に開発したモデルに頼るのではなく、安全ガードレールを取り除くジェイルブレークを正規の最先端AIモデルに施したり、正規のクラウドインフラ経由でアクセスを再販したりしている。
レポートはまた、ガードレールのないAIモデルがHugging Face上で6,600以上公開されていることも明らかにした。
これらのモデルは合わせて、わずか30日間で約2,200万回ダウンロードされた。
多くはローカルで実行できるため、クラウドプロバイダーがプロンプトを監視したり、不正利用を制限したりする機会が失われる。
AIがマルウェアとサイバー攻撃の手法を変えつつある仕組み
脅威アクターは、AIを自らの活動に直接組み込むようになっている。
レポートは、複数の業界でAIエージェントが偵察、認証情報の窃取、ネットワーク侵入を自動化した事例が確認されていると指摘している。
研究者はまた、マルウェアがバイナリ内に悪意あるロジックを埋め込むのではなく、実行中に動的に生成できることを確認した。これにより、従来のシグネチャベースの検知の有効性が低下する。
より最近のマルウェア亜種はさらに進み、クラウドAPIに依存せず、侵害したシステム上でAIモデルをローカル実行する。
これによりAIプロバイダーからの可視性が失われ、防御側による監視も難しくなる。
AIエージェントが新たな内部者セキュリティリスクを生む仕組み
自律型AIエージェントの急速な普及は、企業に新たなリスクももたらしている。
レポートによると、AIエージェントの公開マーケットプレイスで提供されるスキルが、攻撃者の標的になっている。
研究者は、認証情報の窃取、機密データの持ち出し、マルウェアのインストール、さらにはAIエージェントの長期メモリの改変による持続性の維持まで可能にする、悪意あるスキルを確認した。
攻撃者はまた、マルウェアを正規のAI関連リソースに見せかけることで、ソーシャルエンジニアリングの手法へと軸足を移している。
ある事例では、AIを活用した予測市場で利益を得る方法を約束する偽のガイドが、被害者に悪意ある実行ファイルをダウンロードさせ、最終的に認証情報を窃取するマルウェアをインストールさせた。
発見時、このペイロードは多くのエンドポイントセキュリティ製品で、ほぼゼロの検知率だったと報告されている。
シャドーAIが企業のサイバーセキュリティリスクを高める仕組み
レポートは、従業員が未承認のAIツールを導入することで、攻撃対象領域が急速に拡大していると警告している。
生成AIを利用する従業員のほぼ半数が、管理されていない個人アカウントを通じてこれらのサービスにアクセスしているという。
研究者は、2025年に5社に1社の組織がシャドーAIに関連する情報漏えいを経験し、そのインシデントによる損失は標準的な情報漏えいより平均67万ドル多かったことを示すデータを引用している。
機密性の高い会話や業務データをさらすだけでなく、管理されていないAIプラットフォームには、アイデンティティベースの攻撃に悪用できる貴重な認証情報、OAuthトークン、APIキー、セッショントークンが含まれていることも多い。
AIがゼロデイ脆弱性の発見を加速する可能性
おそらくレポートで最も懸念される予測は、ソフトウェアの脆弱性に関するものだ。
研究者は、AIを使ってゼロデイエクスプロイトを開発した初めて知られる犯罪利用とされる事例を指摘し、将来のAIモデルによって脆弱性の発見が大幅に加速する可能性があると論じている。
レポートはAnthropicのMythos研究モデルを取り上げている。このモデルは、複雑な多段階攻撃チェーンを構築する能力を示しながら、主要なOSやブラウザーに存在するゼロデイ脆弱性を特定したと報告されている。
研究者は、同様の能力を持つAIモデルが6〜12カ月以内に犯罪者向けマーケットプレイスに登場し、エクスプロイトの開発と防御側のパッチ適用作業の双方を増大させる可能性があると考えている。
組織がAI搭載型サイバー脅威に備える方法
ThreatDownは、AI搭載型攻撃が成熟を続ける中、組織は3つの重要な優先事項に注力すべきだとしている。
- 加速すべきは脆弱性管理とパッチ適用であり、エクスプロイトが可能な期間を短縮する。
- セキュリティ運用またはマネージド・ディテクション・アンド・レスポンスを通じて継続的な監視を維持し、AIを利用した攻撃を早期に特定する。
- 発見し、統制するには、環境全体で稼働する未承認のAIツール、エージェントスキル、AI連携を特定する。
AIを単なる別の技術トレンドと見るのではなく、攻撃者が偵察を自動化し、エクスプロイト開発を加速させ、AIの導入そのものを兵器化できるサイバーセキュリティ環境に備えるべきだと、レポートは提言している。
こうした能力の多くはすでに現れ始めているが、研究者は今後数カ月が、AIを利用した脅威に対して防御側が先手を保てるか、あるいは追随に苦慮するかを左右すると考えている。
AI支援型フィッシング、認証情報の窃取、ゼロデイエクスプロイトのいずれが最初の侵害経路であっても、ゼロトラストは攻撃者のアクセスを制限し、被害範囲を抑えるのに役立つ。