Une publicité Facebook peut sembler inoffensive au premier abord, mais la destination vers laquelle elle renvoie peut raconter une tout autre histoire.
Meta a mis en place un système basé sur l’IA conçu pour détecter le « signposting », une tactique par laquelle des publicités apparemment légitimes orientent les utilisateurs vers des contenus ou des activités interdits en dehors de ses plateformes. L’entreprise affirme que cette technologie utilise un grand modèle de langage pour repérer les tentatives de contournement de ses protections existantes contre l’exploitation des enfants.
Ce système s’inscrit dans un effort plus large qui comprend la détection automatisée, l’analyse des destinations et des tests des propres défenses de Meta par l’IA. Le défi consiste à identifier des activités abusives dissimulées derrière des contenus d’apparence légitime, sans pénaliser par erreur des annonceurs innocents.
Comment l’IA de Meta détecte les publicités suspectes
Au cœur de cette évolution de Meta se trouve un LLM entraîné à détecter les tentatives furtives de contourner les protections mises en place par Meta pour signaler les publicités faisant la promotion de l’exploitation sexuelle des enfants.
Une tactique consiste à créer des publicités qui semblent légitimes, mais orientent les utilisateurs vers des destinations contenant des contenus interdits. Comme les publicités elles-mêmes peuvent ne présenter aucune violation manifeste, les systèmes classiques de modération peuvent avoir du mal à identifier leur objectif.
Le nouveau système de Meta basé sur un LLM est conçu pour reconnaître ces tentatives de contournement. L’entreprise examine également les destinations vers lesquelles les publicités renvoient et affirme pouvoir bloquer celles qui enfreignent ses règles, empêchant ainsi de futures publicités d’orienter les utilisateurs vers les mêmes endroits.
Cependant, Meta n’a pas expliqué publiquement comment le modèle identifie les liens suspects ni avec quelle précision il distingue les publicités abusives des publicités légitimes. Cela soulève des questions sur les faux positifs et sur le risque que des annonceurs fassent l’objet de mesures coercitives lorsque leur contenu est signalé à tort.
Meta veut tester ses propres efforts à rude épreuve
Meta ne se contente pas de lutter contre les nouvelles façons dont les prédateurs contournent ses systèmes. L’entreprise veut aussi s’assurer que ces «prédateurs déterminés» ne puissent pas trouver de failles dans ses défenses pour les exploiter ultérieurement.
L’une des façons dont Meta s’y prend consiste à créer un modèle d’IA de red teaming qui teste sous contrainte ses systèmes de sécurité existants à la recherche de failles. Le modèle endosse essentiellement le rôle d’un adversaire et sonde les défenses de Meta pour trouver des moyens par lesquels ses systèmes de détection pourraient être contournés avant que les auteurs de ces abus ne découvrent et n’exploitent eux-mêmes ces failles.
Cette approche rend de fait Meta proactive dans ses efforts. Plutôt que d’attendre qu’une nouvelle technique de contournement apparaisse au grand jour avant de mettre ses systèmes à jour, Meta affirme pouvoir utiliser l’IA pour rechercher d’éventuelles failles et renforcer ses protections.
Ce que cela pourrait signifier pour Meta
La dernière initiative de Meta intervient alors que l’entreprise continue de subir la pression des régulateurs et des législateurs, qui l’interrogent sur l’efficacité avec laquelle ses plateformes protègent les enfants.
L’efficacité de ces nouveaux systèmes revêt donc une importance particulière. Meta doit détecter davantage d’activités abusives sans transformer l’application automatisée de ses règles en instrument aveugle qui bloquerait à tort des annonceurs, des contenus ou des comptes légitimes.
Cette technologie pourrait aider Meta à repérer les tentatives de diffusion de contenus liés à l’exploitation des enfants au moyen de publicités apparemment légitimes, plutôt que de se concentrer uniquement sur les contenus qui enfreignent directement ses règles.
Meta n’a pas communiqué de chiffres détaillés sur la précision de ce nouveau système de détection, une pratique courante chez les entreprises technologiques qui cherchent à empêcher les acteurs malveillants de procéder à l’ingénierie inverse de leurs défenses. Cela laisse planer le doute sur la fréquence à laquelle le système pourrait manquer des activités abusives ou signaler à tort des annonceurs légitimes.
Si cette technologie se révèle efficace, elle pourrait offrir aux autres plateformes un moyen de lutter contre des tactiques de contournement similaires. Pour l’heure, la question sera de savoir si Meta peut démontrer des progrès significatifs en matière de protection des enfants sans créer de nouveaux problèmes liés à l’application automatisée de ses règles.