AnthropicのProject Glasswingは、高度なAIモデルがソフトウェアの脆弱性の発見と悪用において、トップクラスの人間の専門家に匹敵する可能性を浮き彫りにしている。
同社が初期に発表した内容によると、Claude Mythos Previewのようなモデルは大規模に稼働し、脆弱性をより迅速に発見できるという。
しかし、セキュリティ責任者の見方は、この主張をめぐって分かれている。
「Mythosは、悪用や侵害の経済性とペースを実質的に変えるように見える」と、SpecterOpsのCTOで、元米空軍ハントチームのメンバーでもあるJared Atkinson氏は、eSecurityPlanetへのメールで述べた。
「これが実際に展開されるのはアクション層だ。防御AIは重要な一歩だが、エージェント型スタック全体、つまりLLM、MCPサーバー、APIが可視化され、エンドツーエンドで保護されている場合にのみ機能する」と、Salt SecurityのVP of StrategyであるMichael Callahan氏は、eSecurityPlanetへのメールで述べた。
「Project Glasswingによって、最大規模の組織に存在する、いわゆる『低いところに実った果実』の一部がなくなることを期待している。そうすれば、攻撃者が利用できる競合モデルが登場したとき、多くの脆弱性はすでに発見され、パッチが適用されているだろう」と、SeemplicityのExposure Management StrategistであるRob Babb氏は、eSecurityPlanetへのメールで述べた。
Suzu LabsのManaging DirectorであるSteven Swift氏は、次のように警告した。「Anthropicには、モデルの能力、特に未知の脆弱性を発見する能力について誇張する評判がある」
同氏はさらに、「例えば同社のモデルは、脆弱性につながる可能性のあるコード行について、前の行を無視すれば脆弱に見えるものの、実際には前の行がリスクを適切に処理して残存する脆弱性をなくしている、といったケースへの対応に苦戦している」と付け加えた。
Project GlasswingのAIセキュリティ推進の内幕
Project Glasswingは、AIを使って重要インフラを大規模に保護する、業界横断の協調的な取り組みだ。
その中心にあるのがClaude Mythos Previewだ。Anthropicによると、この最先端モデルは主要なOSやWebブラウザー全体で、重大度の高い脆弱性を数千件特定しており、その多くはこれまで検出されていなかったという。
この開発を際立たせているのは、発見件数の多さだけではなく、それを可能にした能力だ。
Claude Mythos Previewは、高度なエージェント型コーディングと推論を用いて、コードを自律的に分析し、脆弱性を発見して、悪用の可能性をマッピングする。
テストでは、このモデルは人間による大規模なレビューや自動スキャンでも見逃されていた、数十年前から存在する欠陥を発見したと報告されている。
セキュリティ責任者にとって、これは根本的な転換を意味する。AIによって脆弱性の発見と悪用へのハードルが下がり、発見から攻撃までの期間が数カ月から、場合によっては数分へと短縮されるためだ。
Project Glasswingは限られたパートナーにしか提供されていないため、Mythos Previewが大規模に脆弱性を発見したというAnthropicの主張は、セキュリティコミュニティ全体ではまだ検証されていない。
AIを利用した攻撃によるリスクを低減する
Anthropicの主張は検証できないものの、組織はコードのセキュリティを高めるための基本的な対策を講じることができる。
- AI支援型のDevSecOpsツールを導入し、高度なファジングも併用して、コードや依存関係に潜む脆弱性を事前に検出する。
- パッチ適用と脆弱性管理プログラムを強化し、大規模環境での修復完了までの時間を短縮する。
- 最小権限、セグメンテーション、特権アクセス管理を徹底し、悪用による影響を抑える。
- ソフトウェアサプライチェーンをSBOM、依存関係スキャン、コード完全性の検証によって保護する。
- CI/CDパイプラインを強化し、リポジトリへのアクセスを制限し、APIや機密性の高いコードベースを保護する。
- 実行時のアクティビティとログを監視して、異常な挙動、迅速な悪用の試み、AI主導の攻撃パターンを検知する。
- インシデント対応計画をテストし、攻撃シミュレーションツールを用いて、コード侵害やAIを利用した攻撃を想定したシナリオで検証する。
これらの対策を総合的に講じることで、AI主導の脅威へのレジリエンスを高めながら、全体的な被害範囲を最小限に抑えられる。
AIがサイバーセキュリティの定石を変える
Project Glasswingは、AIが生産性向上の用途を超え、脆弱性の特定と悪用の双方で中心的な役割を果たすようになる、サイバーセキュリティのより大きな変化を反映している。
こうした能力が進化するにつれ、成果は組織がAIを防御戦略にどれだけ効果的に組み込めるかに、ますます左右されるようになる。
この取り組みは、業界と政府が協調して取り組む必要性も改めて示している。AI主導のサイバー能力がもたらすシステム上のリスクに対処するには、可視性の共有、標準化、協力が必要だからだ。
AIが攻撃と防御の両方のセキュリティ運用により深く組み込まれるにつれ、明確なガバナンスの必要性が高まっている。