OpenAIをはじめ、テクノロジー、サイバーセキュリティ、金融、インフラ分野の100を超える組織が、能力を高め続けるAIシステムによって攻撃の実行と大規模化が容易になる前に、サイバー防御を強化する世界的な取り組みを呼びかけている。
ある公開書簡で、各社はAIを利用した攻撃が数カ月以内に、より広範かつ高度になる可能性があり、病院や浄水施設などの重要インフラがより大きなリスクにさらされると警告した。この連合には、OpenAI、Anthropic、Google、Microsoft、Amazon Web Services、IBM、Cloudflare、Palo Alto Networks、Visa、Mastercardなどが参加している。
同グループは、従来のセキュリティ対策が、長年にわたる未修正のソフトウェア、過剰な権限、脆弱な認証、設定ミス、旧式のシステムにすでに苦慮していると指摘する。そうした弱点は、攻撃者が発見して悪用するまでに要する時間をAIが短縮することで、より危険なものになり得る。
この警告は、セキュリティテスト中にAIシステムが予期せぬ挙動を示した最近の複数の事例を受けたものだ。eSecurity Planetは以前、7月にテストされたOpenAIのエージェントが、非公開のメッセージ掲示板を作成し、互いに連携して、Hugging Faceへの攻撃に成功したと報じている。
AIは双方を支援する可能性がある
OpenAIの書簡は、AIを新たに生じつつある脅威としてのみ捉えているわけではない。同じテクノロジーによって、防御側は弱点の特定や修正を迅速化できるほか、大規模なセキュリティチームを抱える余裕のない組織にも高度なセキュリティ機能を提供できると論じている。
ArmorCodeでサイバーセキュリティのテクニカルリードを務めるRobbie Mueller氏は、多くの企業にとってより大きな問題は、大量のセキュリティ検出結果に対応する能力だと述べた。
「問題を見つけることは、かつてないほど容易になった。難しいのは、それを修正することだ」とMueller氏はeSecurityPlanetに語った。同氏は、企業は脆弱性の数そのものよりも、弱点が連鎖して現実的な攻撃経路になり得るかどうかに重点を置くべきだと述べた。
NCC Groupでテクニカルディレクター兼AI・MLセキュリティ責任者を務めるDavid Brauchler氏も、AIが人間の判断を安全に置き換えられると考えることに注意を促した。
「AIツールは、人間の監督なしに運用できるほどの信頼性を、いまだに備えていない」とBrauchler氏はeSecurity Planetに語った。
企業はより迅速に対応する必要がある一方、AIが生成した修正を急いで本番環境に直接適用すると新たなセキュリティ問題を引き起こす可能性がある。
真のボトルネックは対応能力
連合の提言が示しているのは、より優れたAIセキュリティツールを購入するだけでは解決しない、より広範な問題だ。組織はまず、自らが保有するシステム、最も重要な弱点、そして修正の責任者を把握しなければならない。
AIによって防御側が発見できる脆弱性の数が増えるにつれ、この違いはますます重要になる可能性がある。発見が加速する一方でパッチ適用が遅いままなら、企業は単に未処理案件をさらに増やすことになりかねない。
Mueller氏によると、平均的な企業はすでに40を超えるセキュリティスキャナーを運用し、数百万件の検出結果を生み出しているが、組織が毎月修正できるのは未解決の脆弱性のおよそ10件に1件にすぎない。
企業と消費者に起きる変化
企業にとって当面の優先事項は、すべての脆弱性を追いかけることではなく、外部に露出し、積極的に狙われ、または価値あるシステムにつながっている弱点を特定することだ。書簡はまた、AIが生成したコードに対するより強固なセキュリティ基準と、重要システムに安全なパッチ適用ができない場合の代替的な防御策を求めている。
政府に対しては、情報共有の強化、リソース不足の重要インフラへの資金提供、防御目的のAIへの幅広いアクセスを連合は求めている。
消費者が直面する脅威は異なる。Brauchler氏は、AIを利用した詐欺によって、なりすましやフィッシングがより巧妙で個人に合わせたものになり得ると警告した。
「消費者にとって、AIのリスクは多くの場合、スパムや詐欺の領域にある」とBrauchler氏は指摘した。「ディープフェイク技術を使えば、攻撃者は家族や友人になりすまし、標的に合わせたフィッシングキャンペーンを作成し、人間を介在させることなく、被害者向けにカスタマイズした反応性の高いコンテンツを生成できる」
同氏は、多要素認証またはパスキーの利用、予期しない依頼の独立した確認、リンクをクリックする前のメールドメインの確認を推奨している。
裏付けを伴わない署名
この公開書簡は、政府に公共インフラの防御への資金提供を求め、開発者に脅威インテリジェンスの共有を促すなど野心的な目標を掲げているが、運用上の説明責任を義務付けるには至っていない。
署名した組織は、宣言に金銭的な拠出、拘束力のある期限、具体的なリソース配分を付随させなかった。その代わり、この取り組みは、資金に乏しい自治体や企業のエンジニアに直ちに対応する負担を負わせている。彼らは今、人間規模の予算でAI規模の脆弱性の優先順位を付けなければならない。
関連記事：SamsungがSmart Switchの脆弱性を修正し、機密性の高いユーザーデータを露出させ、数百万台のデバイスを危険にさらす可能性があった。