韓国の大手サイバーセキュリティ企業によると、北朝鮮の悪名高いハッカー集団Kimsukyは、韓国の当局者を標的とした最近のフィッシング作戦の一環として、政府発行の身分証を本物そっくりに偽造するためChatGPTを利用した。
これは、AIが生成したディープフェイクが朝鮮半島で実際のサイバー攻撃を支援するために悪用された、初めて記録された事例の1つとなる。
Geniansによると、この攻撃は7月に初めて確認されたが、研究者らは最近になって、その巧妙さの全容を明らかにした。Kimsukyは、説得力のあるフィッシングの誘い文句の作成を支援させただけでなく、偽の軍用身分証や政府発行の身分証を作成するためにも、OpenAIの大規模言語モデルを利用したとされる。これらの偽造物はその後、正規のセキュリティ更新に見せかけたマルウェアを被害者にダウンロードさせるために使われた。
サイバー戦争の新たな章
Kimsukyは長年にわたり、アジア全域の外交、防衛、研究分野を標的とするスパイ活動で知られてきた。しかし今回の作戦は、戦略的な転換を示している。一般に公開されたAIを使って説得力のある偽造物の作成を自動化し、従来の検知対策を回避しているのだ。
政府発行の身分証の高解像度画像を生成することで、ハッカーはマルウェアを仕込んだメッセージを公式の通信として見せかけることができた。攻撃チェーンには、正規の省庁から送られたように見える標的型フィッシングメールが含まれていたとされる。メールには、AIが生成した人物写真やロゴ、文書テンプレートまで用意されていた。
アナリストは、ディープフェイク映像とマルウェア配布の融合は、攻撃的なサイバー能力の大きな進化を意味すると警告している。これはまた、生成AIプラットフォームに組み込まれたガードレールが、攻撃者が十分に粘り強く取り組めば、操作または回避され得ることを示している。
朝鮮半島を超えて広がる影響
この事件は、より広範な現実を浮き彫りにしている。AIを活用したサイバー犯罪は、もはや理論上の存在ではない。参入障壁は低下しており、国家主体も非国家主体も同様に、詐欺やスパイ活動、破壊工作のために生成モデルを導入できるようになっている。
組織は従業員向けのセキュリティ意識研修を刷新し、より強固な認証プロトコルを導入するとともに、合成メディアを検知できるツールに投資すべきだ。
Kimsukyの最新作戦は、単なる警告ではない――それは転換点となる出来事だ。国家支援型のハッカーは、もはやAIを試しているだけではない。自分たちを締め出すために設計されたシステムそのものを弱体化させるため、AIを実戦運用しているのだ。偽の身分証から状況に応じて変化するフィッシングスクリプトまで、生成モデルが進化するたびに、サイバースパイ活動のツールキットは拡大している。
機密データを託された政府、企業、個人にとって、メッセージは明確だ。兵器化された人工知能の時代はすでに到来しており、その脅威を過小評価した場合の代償は壊滅的なものになり得る。