OpenAIは、サイバー攻撃を支援するためにChatGPTプラットフォームを悪用していたサイバー犯罪者に対し、最近対策を講じた。
同社は、ロシア、北朝鮮、中国を拠点とし、マルウェアの作成やフィッシングキャンペーンなど悪意ある目的でチャットボットを利用していた、3件の組織的なハッキング活動を阻止したと発表した。
「これらのアカウントはロシア語圏の犯罪グループとつながっているとみられる。そう判断したのは、彼らが自身の活動の証拠を、そうした行為者向けのTelegramチャンネルに投稿しているのを確認したためだ」と、OpenAIは2025年10月のアップデートで述べた。
生成AIの暗い側面
今回の発見は、ChatGPTなどの大規模言語モデル（LLM）が、生産性向上に役立つ正当なツールとしてもサイバー犯罪の手段としても利用できる、強力なデュアルユース技術であることを浮き彫りにしている。
生成AIをマルウェア開発、ソーシャルエンジニアリング攻撃、情報窃取に悪用することは、セキュリティチームや政策立案者にとって懸念が高まっている。
国家支援ハッカーがAIツールを活用
最初に阻止されたグループは、リモートアクセス型トロイの木馬（RAT）と認証情報窃取ツールを開発していたロシア語圏の攻撃者だった。
ChatGPTは明らかに悪意のあるコードの生成を拒否したものの、この攻撃者は難読化スクリプトやデータ窃取ルーチンなど、後に組み合わせて機能するマルウェアに仕上げられるモジュール式のコード断片の作成にChatGPTを利用していた。
北朝鮮系のグループは、Trellixが特定したキャンペーンに関連するとみられ、2025年8月にChatGPTをマルウェアやコマンド・アンド・コントロール（C2）インフラの支援に利用していた。
この攻撃者らは、外交機関や政府機関を標的にするため、WindowsおよびmacOSの構成、フィッシングテンプレート、APIフッキング技術を試していた。
3番目のクラスターは、中国のグループUNK_DropPitchに関連しており、ChatGPTを利用して多言語のフィッシングコンテンツを作成し、台湾の半導体業界を狙うバックドアを開発していた。OpenAIによると、このグループは「技術的には有能だが、洗練されていない」という。
AIで旧来の攻撃手法を強化
各攻撃者は、新たな攻撃能力を生み出すのではなく、既存の攻撃ワークフローを高速化するためにChatGPTを利用しようとしていた。
ロシアの攻撃者は複数のChatGPTセッションでコードを繰り返し改良し、RATの機能を洗練させた。北朝鮮のハッカーはAIを使ってフィッシングの誘い文句をシミュレーションし、マルウェア展開スクリプトを自動化した。
一方、中国とつながりのあるアカウントは、英語、中国語、日本語でフィッシングメッセージを生成し、HTTPS経由のリモート実行を自動化する方法を探っていた。
この3つの主要グループ以外にも、OpenAIはカンボジア、ミャンマー、ナイジェリアの小規模なネットワークが、オンライン詐欺や影響力工作にChatGPTを利用しようとしていたことを確認した。
中国政府とつながりのある活動に関連する一部のアカウントは、ソーシャルメディアのデータを分析し、少数民族や地政学的問題に関するプロパガンダ資料を作成しようとしていたと報じられている。
AI悪用リスクを軽減する
OpenAIは、問題のアカウントの停止、監視システムの強化、セキュリティパートナーとの調査結果の共有を行った。
同社は、悪意のあるプロンプトを阻止する多層的な安全対策を組み込んでLLMを構築していると改めて説明した。ただし、執拗な攻撃者がコード断片の生成を通じてこうした制限を回避しようとする場合もある。
AIを利用した脅威への露出を減らし、全体的なセキュリティ態勢を強化するため、組織は次の対策を実施すべきだ。
- 脅威を監視・検知する：IOC、RAT、AIを利用した攻撃を、EDRやSIEMツールで追跡する。
- アクセス制御を徹底する：最小権限を適用し、MFAやネットワークセグメンテーションを導入して、横方向への移動を制限する。
- システムを強化する：安全な開発環境とエンドポイント環境を確保し、アプリを許可リストに登録して、依存関係を更新する。
- AI利用を統制する：AI利用ポリシーを定め、活動を監視し、説明責任のためにプロンプトを記録する。
- 従業員を教育する：不審なフィッシングメッセージを見分けられるよう、スタッフを教育する。
- 協力してテストする：脅威インテリジェンスを共有し、AIに重点を置いたレッドチーム演習とインシデント対応訓練を実施する。
OpenAIの報告書は、悪意ある行為者が必ずしも革新するためではなく、より迅速に行動するために「旧来の攻撃手順にAIを付け加えている」実態を浮き彫りにしている。
生成AIの能力が業界全体に組み込まれる中、防御側は、攻撃者が偵察、コーディング支援、心理的操作に同様のツールを使うことを前提にしなければならない。
攻撃者が欺瞞や操作にAIを活用する傾向が強まる中、ディープフェイク検知ツールは防御の重要な第一線となっている。