攻撃者のAI導入には、コンプライアンス審査がない。
承認プロセスも、トークン予算も、モデルを自律的な行動に移してよいかを議論するガバナンス委員会も存在しない。
攻撃者は単にAIを制約なく積極的に使い、防御を圧倒している。
これは、SeviiのCEOであるCurt Aubleyによるシリーズ第2回の記事です。第1回を見逃した方は、こちらをお読みください。
主なポイント
- AIサイバーセキュリティツールの多くは依然として人による大幅な監視を必要とするため、アナリストの負担を軽減し、セキュリティチームをトリアージの先へ進める能力が制限されている。
- 従来型のセキュリティアーキテクチャと脆弱なガバナンスフレームワークが、現代の攻撃者に対抗するために必要な速度でAIが自律的に動作するのを妨げている。
- AIのトークンベースの料金モデルは、脅威の検知と対応にAIを十分活用することを組織にためらわせる経済的障壁となり得る。
- 攻撃者が、企業環境に共通するガバナンス、コンプライアンス、予算上の制約なしにAIを導入する中、防御側は運用面でも経済面でも不利な状況に置かれつつある。
- AIによるサイバーセキュリティ格差を埋めるには、AI製品の設計と、セキュリティチームによるこうした技術の利用方法を形作るビジネスモデルの双方を見直す必要がある。
なぜAIセキュリティツールはアナリストの負担を軽減できないのか
一方、防御側には、片手を後ろ手に縛られたような状態でAIツールが売り込まれている。
不都合な真実は、ほとんどのAIサイバーセキュリティツールが依然として防御側に作業を生み出していることだ。
日々の反復作業を単に肩代わりさせるだけでは、チームの能力も対応速度も向上しない。
また、「コ・パイロット」は、攻撃者と一対一で対峙するために必要な規模、速度、さらには知性さえも提供できるよう設計されたモデルではない。
従来型システムへの依存が続くことで、不要な手順が生じ、さらなる人の操作や監視が必要になる。
こうした多くのAIソリューションへの依存は、包括的でカスタマイズ可能なフレームワークと、確信を持って自律的かつ独立して行動するための制御を提供する、強固な組み込み型ガバナンスメカニズムが欠如していることの表れでもある。
こうした能力と、必要なときにきめ細かく即座に介入できる機能がなければ、AIソリューションは速度を高めることはあっても、実際に作業をなくすことはできない。人間が依然として出力を確認し、対応しなければならないからだ。
つまり、目指すべき地点には到達できていない。
防御チームは、トリアージの先へ進めないAIツールを導入しており、その結果、過大な負担と人手不足、リソース不足に苦しんでいる。
この日々の苦闘を受け入れるようになったことで、彼らはトリアージを、システム全体の運用上の欠陥の兆候ではなく、許容できる妥協とみなしている。
今日のAIサイバーセキュリティツールが力不足である理由
ツールの問題は、話の半分にすぎない。残りの半分はビジネスモデルだ。
AIの約束の裏には、不都合な真実がある。
技術的な課題だけでなく、サイバーセキュリティ業界は、利益と製品設計に基づくビジネスモデルにも縛られている。それは、自らを守ろうとする顧客を制限し、場合によっては真剣に防御するほど罰するものだ。
AIの料金モデルがサイバー防御側に与える打撃
リソースの配備と消費における現在の力学を踏まえ、トークン化はAI導入の料金を決める事実上の標準となっている。
他のAI分野では受け入れられたコストとなっている一方で、すでに防御側を大幅に不利な立場に追い込んでいる。
AIの楽観論者は、今や業界を数十年にわたって悩ませてきた人材格差を解消できると主張している。しかし、トークン化によって生じるコスト格差が、人材格差の解消によるメリットをはるかに上回るという事実を見落としている。
防御側は、脅威を特定するたび、アラートを分析するたび、攻撃を修復するたびにトークンを使わなければならない。その結果、脅威の防御と緩和のあらゆる側面が収益化され、絶えず攻撃を受ける組織の苦境から不必要な利益が生み出されている。
私たちは防御側に、どのアラートを最優先すべきか判断させ、特定の脅威を無視させ、調査を途中で打ち切らせ、どの脅威を修復すべきか選ばせている。
すべて、AIが約束する能力を活用するためのトークンが不足しているからだ。
そのうえ、彼らの作業をさらに増やしている。
現代のサイバー防御に向けたAIセキュリティの再考
業界はこの問題に、正面から誠実に向き合う必要がある。ツールだけでなく、その背後にあるインセンティブにも目を向けなければならない。
料金モデルが防御側の苦闘から利益を得る限り、そしてAI製品が時間面のコストにかかわらず、あらゆる工程に人間を関与させ続けるよう設計されている限り、私たちは地歩を失い続けるだろう。
このシリーズの最終回となる次回の記事では、考えられる解決策と、組織がAIを戦力倍増要因としてどう活用すべきかを探る。