Facebook広告は一見無害に見えても、その先にあるリンク先がまったく別の実態を示している可能性がある。
Metaは、「道しるべ（signposting）」を検出するためのAI搭載システムを導入した。これは、一見正当な広告を使って、ユーザーを同社のプラットフォーム外にある禁止コンテンツや違法行為へ誘導する手法だ。同社によると、この技術は大規模言語モデルを使い、児童搾取に対する既存の保護策を回避しようとする試みを特定する。
このシステムは、自動検出、リンク先の分析、Meta自身の防御策に対するAIを使ったテストなどを含む、より広範な取り組みの一環だ。課題は、正当な広告主を誤って処罰することなく、正当そうに見えるコンテンツの背後に隠れた悪用行為を特定することにある。
MetaのAIは疑わしい広告をどう検出するのか
Metaの変革の中心にあるのは、同社が導入した保護策をかいくぐろうとする隠れた試みを検出し、児童の性的搾取を助長する広告を見つけるよう訓練されたLLMだ。
この手法の一つは、正当なものに見える広告を作成し、禁止コンテンツを含むリンク先へユーザーを誘導することだ。広告自体には明らかな違反が含まれていない場合があるため、従来のモデレーションシステムでは、その目的を特定するのが難しいことがある。
Metaの新しいLLMベースのシステムは、こうした回避の試みを認識するよう設計されている。同社は広告の誘導先も調べており、ポリシーに違反するリンク先をブロックして、今後の広告が同じ場所へユーザーを誘導できないようにするという。
しかしMetaは、モデルが疑わしいつながりをどのように特定するのか、また悪質な広告と正当な広告をどの程度正確に区別できるのかを公表していない。そのため、誤検知に関する疑問や、コンテンツを誤って違反と判定された広告主が執行措置を受ける可能性が残る。
Meta、自らの取り組みをストレステスト
Metaは、捕食者によるシステム回避の新たな手法への対処だけにとどまらない。同社は、「執拗な加害者」が防御策の弱点を見つけ、後から悪用することがないようにしたいと考えている。
Metaがそのために行っていることの一つが、レッドチーム型AIモデルを構築して既存の安全システムの弱点をストレステストすることだ。このモデルは基本的に敵対者の役割を担い、Metaの防御策を探って、検出システムを回避できる方法を、犯罪者が自ら発見して悪用する前に見つけ出す。
このアプローチにより、Metaは実質的に先手を打てるようになる。新たな回避手法が現実に現れてからシステムを更新するのではなく、AIを使って潜在的な隙間を探し、保護策を強化できると同社は説明している。
Metaにとってこれが意味すること
Metaの今回の動きは、同社が厳しい圧力にさらされ続けていることを背景にしている。規制当局や議員は、同社のプラットフォームが子どもをどれだけ効果的に保護しているかを問題視している。
そのため、今回の新システムがどれだけ有効かは特に重要になる。Metaには、より多くの悪用行為を検出する一方で、自動執行を、正当な広告主やコンテンツ、アカウントまで誤ってブロックする大雑把な手段にしないことが求められる。
この技術によりMetaは、ポリシーに直接違反するコンテンツだけに注目するのではなく、一見正当な広告を通じて児童搾取素材を拡散しようとする試みを特定できる可能性がある。
Metaは、新たな検出システムの詳細な精度の数値を公表していない。これは、悪意ある行為者による防御策のリバースエンジニアリングを防ごうとするテクノロジー企業では一般的な対応だ。そのため、悪用行為を見逃したり、正当な広告主を誤って違反と判定したりする頻度は不明なままだ。
この技術が有効だと証明されれば、他のプラットフォームにとっても、同様の回避手法に対処する方法となる可能性がある。現時点で問われるのは、自動執行によって新たな問題を引き起こすことなく、Metaが子どもの安全に意味のある改善を示せるかどうかだ。