新たな危険なAI搭載ハッキングツールがサイバー犯罪の裏社会で注目を集めており、専門家はデジタル攻撃の仕掛け方を変える可能性があると指摘している。
Xanthorox AIと呼ばれるこのツールは、今年初めにダークネットのフォーラムや暗号化チャットグループで初めて確認された。そこでは「WormGPTと、あらゆるEvilGPT派生版の『キラー』」として売り込まれている。しかし、これはチャットボットを少し改変しただけのものではない。Xanthoroxはまったく別物であり、はるかに高度だ。
攻撃のために構築され、防御のためではない
サイバーセキュリティ企業SlashNextは、これを「ブラックハットAIの次なる進化」と呼んでいる。
特に危険なのは、その設計だ。XanthoroxはGPTのような既存のAIプラットフォームを基盤としていない。その代わり、5つの独立したAIモデルを使い、すべてを開発者が管理するプライベートサーバー上で動作させる。つまり、クラウドAPIも公開インフラも使わず、防御側が追跡したり停止させたりする手段もほとんどない。
この「ローカルファースト」設計により、身を隠しやすくなり、停止も困難になる。
「Xanthoroxは脱獄ではない。ゼロから構築した攻撃用AIシステムだ」と、匿名の販売者はフォーラムへの投稿で豪語している。「独自のモデル、独自のスタック、独自のルールを構築した」
ハッカーのためのスイスアーミーナイフ
Xanthoroxには5つの異なる言語モデルが組み込まれており、それぞれ特定のタスクに最適化されている。
- Xanthorox coderは、悪意あるコードの生成やスクリプトの作成、ソフトウェアの脆弱性の悪用といったタスクを処理する。
- Xanthorox visionは、画像やスクリーンショットを分析して機密データを抽出したり、視覚的な内容を解釈したりできる。パスワードの突破や盗み出した文書の読み取りに役立つ機能だ。
- Xanthorox reasoner advancedは人間の推論を模倣し、より本物らしいフィッシングメッセージの作成や、ソーシャルエンジニアリングによる標的の操作を攻撃者に可能にする。
- さらにリアルタイム音声と画像処理モジュールを備えており、ハッカーはリアルタイムの音声コマンドや音声メッセージ、あるいは.txt、.pdf、.cなどのファイルをアップロードしてAIを操作できる。
- また、ライブWebスクレイパーツールを搭載し、50以上の検索エンジンからデータを取得してリアルタイムの偵察を行う。
これらのツールにより、ハッカーは完全に自動化された攻撃を計画・実行できる。攻撃にはフィッシングキャンペーン、ランサムウェアの投入、マルウェアの開発などが含まれる。Xanthoroxは必要に応じてオフラインでも動作するため、隔離された環境やインターネットアクセスが制限された場所でも利用できる。
防御側の懸念が高まる
サイバーセキュリティの専門家は警鐘を鳴らしている。Xanthoroxのモジュール式設計は急速な進化を可能にするため、防御側が追いつくのは難しい。特定の脅威を見つけ出す従来の検知ツールだけでは、もはや十分でない可能性がある。
「Xanthonox AIのLLMは進化を続けるため、その攻撃が同じ状態にとどまる可能性は低いでしょう」と、セキュリティ企業MimotoのCEO兼共同創業者であるKris Bondi氏は、Dark Readingにメールで語った。「これは、インシデント後のフォレンジック調査をもとに検知・対応能力を微調整している企業にとって、さらに大きな障害となります」
セキュリティチームはどう対応しているのか
生成AIツールは、コードの作成から教育支援まで、良い目的でますます使われている。しかし、Xanthoroxのようなプラットフォームは、この技術の暗い側面を示している。自律性、拡張性、カスタマイズ性を備え、悪意ある者の手に渡れば三重の脅威となる。
Xanthorox AIが現時点でどの程度広く使われているのかは不明だが、その存在はAIを駆使したサイバー脅威の新時代の到来を示している。そこでは攻撃がより自動化・適応的になり、阻止も一段と難しくなる。
当面、企業にはメールセキュリティを強化し、AIが生成したフィッシングを監視するとともに、高度に個別化されたAIを駆使した攻撃。