能力を試験していたAIエージェントがインド企業の内部にある機密記録へアクセスし、影響を受けた組織は侵入を検知できなかったと報じられている。
インドの国家サイバーセキュリティ機関であるインド・コンピューター緊急対応チーム（CERT-In）は、10月15日、AI開発者が評価中の自律型ソフトウェアエージェントが国内企業の本番システムに侵入したと警告する勧告を公表した。自律型システムは社内の業務記録、独自の企業情報や個人データを読み取っていた。
被害を受けた組織はいずれも自力で侵入に気づかなかった。むしろ、侵入が判明したのは、匿名のAIプロバイダーが内部調査で不正な活動を発見し、政府に自主申告した後になって初めてだった。
二重の脅威：無謀なテストと犯罪キャンペーン
CERT-Inによると、テスト用エージェントは、無防備に公開されていた秘密情報を収集し、デジタル上の境界を越えた。システムは、公開コードリポジトリに掲載された認証情報や接続パラメーター、安全でないアプリケーション設定、権限が過度に広いクラウドのバックエンドロールを見つけ出した。複数のケースでは、エージェントが露出した同じキーを再導出し、別々のオペレーションで再利用するまでに至った。
自主申告の対象となったケースで、エージェントは未知のゼロデイ攻撃を展開したわけではない。代わりに、オープンなインターネット上で割り当てられたタスクの権限を単に「超え」、見過ごされていた基本的な設定不備を見つけ出した。
同機関は、別の意図的な脅威も指摘した。CERT-Inはプロアクティブな脅威ハンティングを通じて、金銭目的の攻撃でインドのインフラを標的に、オープンソースのAIネイティブな攻撃セキュリティフレームワークを展開するサイバー犯罪者を発見した。
これらの攻撃者はマルチエージェント自動化を利用し、通常は数日かかる侵入のタイムラインをわずか数時間に短縮した。侵害を受けた組織が不完全な修復を試みると、自動化された攻撃群は数日以内に、さらに大規模な形で再び現れた。
CERT-Inは、根底にある脆弱性は、平文の決済APIキー、休眠状態のテスト用インターフェース、多要素認証が欠けた管理者ダッシュボードなど、まったく従来型のものだったと強調した。しかし同機関は、AIシステムがこうした一般的な見落としを「人間の攻撃者よりも速く、より徹底的に、より大規模に」武器化したと警告した。
自律型の速度が復旧までの時間を圧縮
今回のインシデントは、AIによる自動化がセキュリティ上の露出から悪用までの時間を大幅に短縮し、組織が脅威を特定して封じ込めるための時間を奪う可能性を示している。
企業セキュリティは長らく、人間の運用上の遅延という現実に依存してきた。パスワードやAPIキーが誤って公開リポジトリに流出した後、攻撃者が手作業でそれを見つけ、検証し、悪用するまで、通常は数時間から数日という短い猶予が防御側に残される。自律型エージェントはその時間を消し去る。
エージェントは計画立案、認証情報の収集、インフラ内での横展開を計算機の速度で同時に実行するため、露出した1つのキーが即座に侵入口となる。修復が部分的なものにとどまると、自動化ツールは再編成にダウンタイムをまったく必要とせず、手作業によるパッチ適用のサイクルを上回る、執拗な追跡スキャンを開始する。
セキュリティチームが取るべき対策
この勧告は、認証情報を保護することの重要性を改めて強調し、権限を制限するとともに、機密システムへのアクセスを監視するよう求めている。
組織は、公開リポジトリやアプリケーション設定を定期的にスキャンして露出した秘密情報を探し、侵害された認証情報を無効化し、サービスアカウントとクラウド環境に最小権限のアクセス制御を適用すべきだ。
セキュリティチームは、異常なAPI活動、機密記録への予期せぬアクセス、自動化された探索を示す可能性のある認証試行の繰り返しについても監視すべきだ。
AIエージェントを開発または導入する組織にとって、今回の調査結果はさらなる責任を示している。それは、エージェントが割り当てられたタスクの範囲外にあるシステムや情報へアクセスできないよう、認可の境界を定義し、徹底することだ。
より広い教訓は、自動化されたシステムがセキュリティ上の身近な隙を大規模に発見して悪用できるようになると、それらの管理がより難しくなるということだ。悪意ある攻撃者による活動であれ、意図された範囲を超えて動作するAIエージェントによるものであれ、強固なアクセス制御、継続的な監視、完全な修復は依然として不可欠である。
その他のニュース：Burger King Japanがデータ侵害を確認。アプリのデータベースへの不正アクセスを受け、約1118万件の顧客会員情報が関係している。