Un message d’hameçonnage convaincant ou un script malveillant peut provenir du même type d’assistant d’IA que celui qu’utilisent les employés dans leur travail quotidien.
Les outils d’IA malveillants comprennent des services commercialisés pour la cybercriminalité et des systèmes légitimes délibérément détournés pour faciliter des attaques. Pour les équipes de sécurité, la question est de savoir comment ces outils aident les attaquants à préparer des leurres, développer du code ou se déplacer dans des systèmes compromis — et quelles défenses peuvent les interrompre.
Qu’est-ce qu’un outil d’IA malveillant ?
Pour les besoins de cette présentation, trois catégories qui se recoupent permettent de distinguer les façons dont les attaquants utilisent l’IA :
- Services proposés à des fins criminelles : Outils qui proposent de l’aide pour l’hameçonnage, la fraude ou les logiciels malveillants, souvent en promettant moins de garde-fous.
- Assistants légitimes détournés : Modèles généralistes utilisés pour des tâches nuisibles, parfois en tentant de contourner leurs restrictions de sécurité, ce que l’on appelle des jailbreaks.
- Flux d’attaque connectés à l’IA : Modèles reliés à des outils logiciels afin de pouvoir interpréter les résultats et contribuer à l’exécution de tâches successives.
Ces catégories peuvent se recouper. La mention « sans censure », un modèle ouvert ou un déploiement local ne suffit pas, à lui seul, à établir une intention criminelle.
Ce que les chercheurs ont observé
L’analyse de mars 2026 de Microsoft Threat Intelligence décrit des attaquants utilisant l’IA pour rédiger des messages d’hameçonnage, traduire du contenu, résumer des informations volées et générer ou déboguer du code. Une grande partie de l’activité a accéléré des tâches existantes, tandis que les humains conservaient le contrôle du ciblage et du déploiement.
Les services promus auprès de publics criminels constituent un autre exemple. Dans une étude de décembre 2025, Resecurity a déclaré que DIG AI avait généré du contenu frauduleux et des scripts malveillants lors de tests, notamment des scripts destinés à installer une porte dérobée dans des applications web vulnérables.
Les tests rapportés par Resecurity, examinés dans cet article consacré à DIG AI et à son utilisation criminelle, montrent que le service produit du contenu nuisible. Générer un script ne permet pas d’établir qu’il compromet effectivement une cible en production.
Des abus plus automatisés ont également été signalés. Dans une divulgation de novembre 2025, Anthropic a déclaré que des attaquants avaient manipulé Claude Code pour tenter des intrusions contre environ 30 cibles, avec succès dans un petit nombre de cas.
Anthropic a attribué la campagne à un groupe chinois soutenu par l’État. Les humains sélectionnaient les cibles et intervenaient à des étapes clés, tandis que le modèle fabriquait parfois des identifiants ou prenait des informations publiques pour des informations secrètes.
Ces distinctions sont importantes pour évaluer l’ utilisation de l’IA lors d’intrusions réelles : l’assistance apportée à une attaque ne signifie pas automatiquement qu’elle est autonome.
Distinguez les capacités démontrées du discours commercial
La promesse d’un vendeur concernant des logiciels malveillants « indétectables » ne dit pas grand-chose sur l’efficacité réelle d’un outil. Lors de l’examen de rapports sur les menaces, demandez-vous :
- Le résultat a-t-il seulement été généré, ou une exécution réussie a-t-elle été observée ?
- De quels identifiants, autorisations ou vulnérabilités l’attaquant disposait-il déjà ?
- Quelles décisions ont nécessité l’intervention d’un humain ?
- Qu’est-ce qui a échoué, et les chercheurs ont-ils pu reproduire le résultat ?
Utilisez ces réponses pour évaluer la pertinence du risque dans votre environnement. Une intrusion testée impliquant des systèmes que vous exploitez appelle une réponse différente de celle suscitée par une publicité non vérifiée.
Votre propre IA peut devenir la cible
Les attaquants peuvent également manipuler des assistants auxquels les employés font déjà confiance. L’injection indirecte de prompt consiste à placer des instructions malveillantes dans du contenu externe traité par un système d’IA, comme un e-mail.
Lors de tests menés en mars 2026, les chercheurs de Permiso ont découvert des cas où des instructions intégrées à des e-mails influençaient les résumés de Copilot, notamment avec du contenu trompeur présenté comme des alertes de sécurité. Les résultats variaient selon l’interface, et certaines tentatives étaient bloquées ou ignorées.
Les résultats, analysés dans cet article consacré à l’ hameçonnage par le biais des résumés d’e-mails générés par l’IA, montrent pourquoi il ne faut pas automatiquement accorder à la sortie d’un assistant le même degré d’autorité qu’à l’application qui l’affiche.
Examinez le contenu externe que lisent les assistants, les outils connectés auxquels ils peuvent accéder et les actions qui nécessitent une validation humaine.
Renforcez les contrôles que vous pouvez tester
Commencez par l’identité et les processus métier. une authentification multifacteur résistante à l’hameçonnage recommandée par la CISA, notamment les méthodes FIDO ou PKI reposant sur du matériel. Donnez la priorité aux accès privilégiés et exigez une vérification indépendante des modifications de paiement ou des demandes visant à contourner une validation.
Donnez aux analystes des déclencheurs d’enquête concrets : demandes MFA inattendues, méthodes d’authentification nouvellement enregistrées, accès inhabituel à des fichiers sensibles, scripts inexpliqués et connecteurs d’IA non autorisés. Ces signaux ne prouvent pas l’implication de l’IA, mais ils peuvent révéler une activité nuisible, quelle que soit la manière dont elle a été préparée.
Organisez ensuite un exercice de réponse réaliste. Si un employé saisit ses identifiants sur une page d’hameçonnage convaincante, les intervenants peuvent-ils identifier le compte, révoquer l’accès non autorisé et déterminer ce à quoi il a permis d’accéder ? Désignez les responsables, vérifiez la couverture des journaux et mesurez le temps nécessaire au confinement. Vérifiez également si cette identité pouvait accéder aux sauvegardes, aux fonctions d’administration ou aux systèmes de paiement.
Appliquez la même rigueur aux déploiements d’IA. Limitez les assistants aux autorisations nécessaires à leurs tâches, exigez une validation pour les actions à conséquences importantes et testez leur réaction face aux instructions malveillantes présentes dans du contenu externe. Déterminez qui peut suspendre un agent ou un connecteur pendant une enquête.
L’objectif utile est de disposer d’une capacité éprouvée à contenir le vol d’identifiants, les actions non autorisées et l’exposition de données. Cherchez à déterminer si l’IA a aidé l’attaquant, mais laissez le comportement observé guider la réponse immédiate.
Vous souhaitez découvrir d’autres conseils, astuces et techniques de rédaction de prompts pour l’IA ? Les lecteurs d’eSecurity Planet bénéficient de 7 jours d’accès gratuit à The Neuron Academy, notre plateforme d’apprentissage pratique conçue pour aider les professionnels à utiliser l’IA avec davantage d’assurance au travail. Parcourir toutes les leçons →
Laissez-nous vous apprendre Comment parler à l’IA gratuitement ! Suivez notre cours de six minutes sur The Neuron Academy et découvrez quelques méthodes simples pour rédiger de meilleurs prompts et obtenir des résultats plus utiles avec l’IA, ou consultez gratuitement pendant sept jours notre autre cours consacré à l’IA. Découvrez toutes les leçons ici →