Les progrès rapides de l’intelligence artificielle générative (IA) ont accentué les difficultés liées aux deepfakes, aux arnaques par usurpation d’identité et aux contenus manipulés sur les plateformes de réseaux sociaux.
À mesure que les médias synthétiques deviennent plus faciles à créer et plus difficiles à détecter, les entreprises sont contraintes d’adopter des stratégies de confiance et de sécurité plus sophistiquées.
Dans un entretien par e-mail accordé à eSecurityPlanet, Alexandra Ryabova, directrice des opérations de Wizz App, a expliqué comment la vérification de l’identité, la modération par l’IA et des réglementations comme la loi TAKE IT DOWN renforcent la sécurité des utilisateurs sur les réseaux sociaux.
À retenir
- Les deepfakes et les arnaques générées par l’IA deviennent de plus en plus difficiles à détecter, permettant aux acteurs malveillants de créer à grande échelle de fausses identités, des clones vocaux et des contenus manipulés.
- La vérification de l’identité s’impose comme une stratégie de défense essentielle : certaines plateformes de réseaux sociaux utilisent la vérification de l’âge et des technologies de comparaison faciale pour réduire le nombre de faux comptes.
- La modération par l’IA aide les plateformes à identifier les contenus préjudiciables à grande échelle, mais la supervision humaine reste essentielle pour corriger les erreurs de contexte et les faux positifs.
- La loi TAKE IT DOWN oblige les plateformes à supprimer dans les 48 heures les images intimes générées par l’IA et diffusées sans consentement qui leur sont signalées, renforçant ainsi la responsabilisation des entreprises de réseaux sociaux.
La menace croissante des deepfakes et des contenus synthétiques
Les deepfakes et les contenus générés par l’IA sont devenus certaines des préoccupations en matière de confiance et de sécurité qui progressent le plus rapidement pour les plateformes de réseaux sociaux.
Selon Ryabova, le problème vient de la vitesse à laquelle les contenus synthétiques peuvent être créés et diffusés, comparée au temps nécessaire pour les vérifier et les supprimer.
Un deepfake convaincant peut être produit en quelques secondes, tandis qu’il faudra peut-être plusieurs jours ou semaines pour le réfuter.
La montée en puissance des outils d’IA open source a abaissé la barrière à l’entrée pour les acteurs malveillants, permettant de créer à grande échelle de fausses identités, des images manipulées, des clones vocaux et des contenus frauduleux.
Ces menaces vont au-delà de la désinformation et comprennent désormais les arnaques financières, la sextorsion, les images intimes diffusées sans consentement et la manipulation politique.
La vérification de l’identité comme stratégie de défense
Plutôt que de compter uniquement sur la détection des deepfakes, certaines plateformes de réseaux sociaux adoptent des mesures de vérification de l’identité conçues pour confirmer que leurs utilisateurs sont bien des personnes réelles.
Ryabova a déclaré que Wizz utilise la vérification de l’âge et des technologies de comparaison faciale dans le cadre d’un effort plus large visant à réduire le nombre de faux comptes et d’identités synthétiques.
Elle a également indiqué que plus de 40 000 comptes sont bannis définitivement chaque année pour non-respect des exigences de vérification.
En outre, environ 7 % des tentatives de vérification de l’âge sont rejetées en raison de doutes sur leur authenticité.
En limitant l’accès aux personnes vérifiées, la plateforme réduit les possibilités pour les comptes automatisés et les identités synthétiques de diffuser des contenus préjudiciables.
L’IA contre l’IA dans la modération des contenus
À mesure que l’IA générative gagne en sophistication, les plateformes de réseaux sociaux s’appuient de plus en plus sur des systèmes de modération alimentés par l’IA pour identifier les contenus préjudiciables.
Wizz utilise actuellement plusieurs niveaux de protection, notamment la modération automatisée des images et des vidéos, la surveillance des comportements et l’examen humain.
L’entreprise développe également un système interne de détection des deepfakes spécialement conçu pour identifier les images de profil manipulées.
Ryabova a décrit cet effort comme une bataille continue entre « l’IA et l’IA », dans laquelle les technologies défensives doivent évoluer au même rythme que les menaces émergentes.
Si la modération par l’IA améliore la capacité de traitement à grande échelle, elle peut encore mal interpréter le contexte et signaler à tort certains contenus.
Ryabova a cité l’exemple d’un utilisateur qui discutait de teinture capillaire et qui a été signalé par erreur pour des risques d’automutilation.
De tels incidents soulignent l’importance de la supervision humaine dans les décisions de modération.
L’impact de la loi TAKE IT DOWN
La loi visant à lutter contre l’exploitation connue en neutralisant les deepfakes technologiques sur les sites web et les réseaux (TAKE IT DOWN) introduit de nouvelles responsabilités pour les entreprises de réseaux sociaux.
L’une de ses exigences les plus notables est l’obligation de supprimer dans les 48 heures suivant la réception d’un signalement valide les images intimes diffusées sans consentement, notamment les deepfakes générés par l’IA.
Selon Ryabova, la loi exige également des plateformes qu’elles mettent en place des systèmes empêchant la remise en ligne de contenus précédemment supprimés.
Cette approche proactive transfère la responsabilité des victimes aux plateformes et établit une norme plus exigeante en matière de modération des contenus.
Si le délai de 48 heures peut être difficile à respecter pour les petites organisations disposant de ressources limitées, Ryabova estime que les entreprises qui donnent la priorité à la sécurité dès le départ sont mieux placées pour s’y conformer.
Les investissements dans la modération par l’IA, des partenaires de confiance spécialisés dans la sécurité et la collaboration au sein du secteur peuvent aider les organisations à répondre aux exigences réglementaires.
Les perspectives
À mesure que le public prend davantage conscience des menaces générées par l’IA, les utilisateurs exigent des protections renforcées de la vie privée, la vérification de l’identité et une plus grande responsabilisation des plateformes.
Ryabova estime que cette tendance est positive et qu’elle reflète des attentes croissantes en matière de sécurité en ligne.
La loi TAKE IT DOWN pourrait servir de modèle pour de futures réglementations sur l’IA en mettant l’accent sur la rapidité de réaction, la détection proactive et une plus grande responsabilisation des plateformes.