新たなAI搭載サイバー犯罪ツールの登場は、AIハッキングツールの能力が急速に進化している可能性を示している。
FraudGPTの開発者は、WormGPTにも関与している可能性があり、より高度な機能を備えた次世代のサイバー犯罪チャットボットを積極的に開発している。
サイバーセキュリティ企業SlashNextの研究者で、かつてブラックハットハッカーだったDaniel Kelleyは、購入希望者を装い、FraudGPTを宣伝していた人物「CanadianKingpin12」に接触した。両者の会話の中で、CanadianKingpin12はDarkBARTとDarkBERTに言及し、これらの新しいツールは、Google Lensとの連携により、テキストだけでなくコードの書き出しや画像の共有も可能になるなど、さまざまな機能を備えることを示唆した。
Kelleyは自身のブログ記事で、CanadianKingpin12が公開した動画を共有した。この動画によると、DarkBERTは「懸念される新機能」によって、従来のツールが持つソーシャルエンジニアリング能力を大きく上回るという。その機能には、次のようなものが含まれる。
「これらの機能が実際に及ぼす影響を正確に測るのは難しいものの、サイバー犯罪を目指す者にとっての障壁が下がると考えるのは妥当だろう」とKelleyは警告した。「さらに、WormGPTからFraudGPT、そして今回の『DarkBERT』へと、わずか1か月足らずで急速に進化していることは、悪意あるAIがサイバーセキュリティとサイバー犯罪の状況に大きな影響を及ぼしていることを浮き彫りにしている」
関連記事：GPT-4でもChatGPTのセキュリティとプライバシー問題は残る
AIによるサイバー犯罪の可能性が拡大
7月初めにWormGPTの存在も明らかにしたKelleyは、FraudGPTはWormGPTと同じ基盤機能を持ち、同じ人物によって開発された可能性がある一方、FraudGPTはさらに悪意ある用途に使われる可能性があると指摘した。一部のウェブ上のハッカーフォーラムでは、宣伝方法が詐欺に特化しているとしてFraudGPTに関するスレッドが削除されていることにも注意が必要だ。そのため、CanadianKingpin12は現在Telegramを通じて連絡を取っている。
CanadianKingpin12が開発した新たなAIボットのうち、DarkBARTはGoogle Bardのダーク版と説明されている。一方、DarkBERTはS2Wの「DarkBERT」と呼ばれる事前学習済み言語モデルを基にしている可能性があり、研究目的だとして欺瞞的な手段で入手されたのではないかとKelleyは推測している。
悪意あるバージョンのDarkBERTは、サイバー犯罪を可能にする目的で意図的に設計されたように見える。そのため、FraudGPTの開発者が自分たちの成果だと誤解を招く主張をしているなか、S2WのDarkBERTが悪用される可能性も懸念されている。
Kelleyによると、これらのツールの開発者は近く、アプリケーション・プログラミング・インターフェース（API）へのアクセスを提供する可能性がある。「この進展により、これらのツールをサイバー犯罪者のワークフローやコードに統合するプロセスが大幅に簡略化される」と同氏は記した。「このような進歩は重大な結果を招く可能性について大きな懸念を生む。この種の技術の利用方法は、今後ますます複雑化すると考えられるためだ」
こうした新たな悪意あるチャットボットの登場は、AIによるサイバー脅威が急速に高度化する可能性を示している。これらのツールが普及し、使いやすさが向上すれば、サイバー犯罪を企てる者は、ビジネスメール詐欺（BEC）などの攻撃やその他の違法行為に着手しやすくなり、高度なサイバー攻撃へのハードルが下がることになる。
AIによるサイバー犯罪に対抗する
AI主導のサイバー犯罪に対抗するには、サイバーセキュリティ防御における一層の警戒が必要であり、従業員研修によってフィッシングやソーシャルエンジニアリングの誘いに対抗できるようにすること、メールゲートウェイと認証によってメールセキュリティを確保すること、そしてパッチ適用によって悪用される可能性が最も高い脆弱性を修正することが求められる。これらのセキュリティのベストプラクティス自体は新しいものではない。しかし、攻撃者がますます高度化するなか、これらを正しく実施することはかつてないほど重要になっている。