かつて「百聞は一見にしかず」と言われた。しかし2025年、その言葉はもはや通用しない。
ここ数カ月で、人工知能を使って作られた、偽物でありながら極めてリアルな動画や画像、音声記録であるディープフェイクが、数、精巧さ、影響力のいずれにおいても急速に増大している。
かつては目新しいものにすぎなかったディープフェイクが、今や個人のプライバシー、企業の信頼性、国家安全保障に対する深刻な脅威となっている。著名人が依然として頻繁に標的にされる一方、懸念すべき変化も起きている。子どもや女性を含む一般の人々が、嫌がらせや脅迫、学校での屈辱を目的とした攻撃の被害者になるケースが増えているのだ。
3カ月で2億ドルの被害……今後さらに増える可能性も
Resemble AIの「Q1 2025 Deepfake Incident Report（2025年第1四半期ディープフェイク事件報告書）」は、ディープフェイク犯罪がどのように進化しているかについて、懸念すべき実態を描き出している。2025年1月から4月までに記録された163件の事件を分析した結果、詐欺師たちは大金を狙うだけでなく、今や個人の評判や心の健康まで標的にしていることが分かった。
金銭的な被害は大きい。「2025年第1四半期だけで、ディープフェイクを使った詐欺による記録上の金銭的損失は2億ドルを超える」と報告書は指摘している。その額はさらに膨らむ可能性がある。
参照：Hiring Kit: Security Architect（TechRepublic Premium）
今や一般の人々が主な標的に
著名人や政治家は依然としてディープフェイク被害者全体の41%を占めるが、Resemble AIの報告書は標的の変化を指摘している。個人が被害者の34%を占めるようになっており、教育機関や女性は特に脆弱な立場にある。
また、調査では、同意のない露骨なコンテンツが全事件の32%を占め、用途別で最多だった。これに続くのは、金融詐欺（23%）、政治的扇動（14%）、誤情報・偽情報（13%）、なりすまし詐欺（10%）、その他の目的（8%）だった。
こうした合成動画は、復讐や脅迫、オンラインでの嫌がらせに使われることが多い。被害者は深刻な精神的苦痛を訴えているが、法的な救済手段やプラットフォームの責任追及には限界がある。
参照：IT Leader’s Guide to Generative AI（TechRepublic Premium）
1件のディープフェイク詐欺で2500万ドルの被害
上司が送金を求めるビデオ通話をしてきたものの、実はディープフェイクだった――そんな状況を想像してみてほしい。決して突飛な話ではない。
2024年2月、シンガポールのある企業は2500万ドルを失った。従業員が最高財務責任者（CFO）やその他の幹部になりすましたディープフェイクを信じてしまったためだ。本物の依頼だと思い込んだ従業員は、詐欺用の口座に資金を送金した。
別の衝撃的な事例では、北朝鮮のディープフェイク工作員がKnowBe4をだました。サイバーセキュリティ企業である同社を、2024年後半に採用させたのだ。サイバーセキュリティ企業でさえだまされるなら、こうした偽物がいかに本物らしく見えるかが分かる。
ディープフェイクが防御を突破している
最新のディープフェイクは驚くほどリアルだ。わずか3～5秒の音声データで、人の声を85%の精度で複製できるものもある。顔の加工技術も非常に精巧になっており、動画ディープフェイクの68%は本物の映像と見分けがつかない。さらに、音声と映像を組み合わせる新たなツールによって、リアルタイムの会話さえ偽装できる。
問題に拍車をかけているのが、検知を回避するよう設計された偽物が多いことだ。そのため、既存のセキュリティシステムでは捕捉が難しい。
法整備の動き：米国、「Take It Down Act」を可決
米下院は409対2の圧倒的多数で、実在のリベンジポルノとAI生成のリベンジポルノの双方への対策を目的とする「Take It Down Act」を可決した。超党派の法案は、2月に上院を全会一致で通過していた。
この法律は、被害者から要請を受けたソーシャルメディアやウェブサイトに対し、ディープフェイクを含む露骨なコンテンツを48時間以内に削除するよう義務付ける。
メラニア・トランプ大統領夫人もこの法案を支持した。米国議会議事堂で、10代の若者を取り巻くオンライン環境を「有害」と表現し、次のように述べた。「特に少女をはじめとする若い10代の子どもたちが、ディープフェイクのような悪意あるオンラインコンテンツがもたらす、圧倒的な困難に苦しんでいる姿を見るのは胸が痛む」とCBS Newsは報じている。
下院での採決後、同夫人は、この法案は「子どもたちの尊厳、プライバシー、安全を守るため、私たちが団結していることを力強く示すものだ」と述べた。
Meta、TikTok、Snapchatなどの大手プラットフォームがこの法律を支持する一方、デジタル権利団体は、適切な安全策がなければコンテンツの過剰削除や削除機能の悪用につながる可能性があると警告している。
世界に向けた警鐘
ディープフェイク技術の進歩が法整備や法執行を追い越す中、被害者はしばしば、自分の声を届けるためだけに、持ち合わせていない時間と費用を費やして自ら調査しなければならない。
米国はTake It Down Actによって意義ある一歩を踏み出したが、適切な法律や執行体制を欠く国はまだ多い。専門家は、ディープフェイクとの戦いには、テクノロジー、政策改革、被害者支援を組み合わせた、世界規模で多層的かつ人間中心の取り組みが必要だと主張している。
企業にとって、目や耳で得た情報を無条件に信頼することは、もはやできない。代わりに企業は「ゼロトラスト」の考え方を取り入れ、複数の独立した経路で身元を確認するとともに、最も説得力のあるメディアであっても疑ってかかるよう従業員を訓練しなければならない。
従業員教育は今や極めて重要だ。組織は、かつて怪しいメールや不審なテキストメッセージに向けていたのと同じ警戒心を、動画や音声コンテンツにも持つようチームに教えなければならない。
組織の防御策：ディープフェイク脅威に対抗する5つのヒント
ディープフェイクがますます本物らしくなり、誰でも利用できるようになる中、組織は今すぐ行動し、防御を強化しなければならない。まず取り組むべき実践的な5つの対策を紹介する。
- ゼロトラストの通信プロトコルを使用する：特に動画や音声で行われる財務、人事、機密性の高い依頼については、複数の経路による確認を必須とする。
- ディープフェイクインシデント対応計画を策定する：ディープフェイク攻撃の疑いを迅速に特定し、エスカレーションして対応するための手順書を作成する。
- 合成メディアを見分ける訓練を従業員に行う：実際の事例やロールプレイ演習を活用し、通常のサイバーセキュリティ研修にディープフェイクへの理解を組み込む。
- 幹部のメディア資産を保護する：幹部の高品質な動画や音声へのアクセスを制限し、悪用を減らすため公開コンテンツに透かしを入れる。
- ベンダーと採用時のチェックを強化する：ディープフェイクによるなりすましを見逃さないよう、対面でのライブ面接や生体認証などの手順を追加する。
ディープフェイクの脅威がなくなることはない。しかし、適切なポリシー、訓練、ツールがあれば、組織は常に一歩先を行ける。