Un rapport sur la cybercriminalité liée à l’IA alerte sur l’émergence de menaces propulsées par l’IA 

L’intelligence artificielle (IA) ne se contente plus d’améliorer la productivité des attaquants. 

Selon un nouveau rapport de ThreatDown rapport, l’IA transforme en profondeur l’écosystème de la cybercriminalité en abaissant les barrières aux attaques sophistiquées et en permettant l’exploitation autonome. 

Principaux enseignements du rapport de ThreatDown sur la cybercriminalité liée à l’IA

• L’IA abaisse le seuil d’accès aux cyberattaques sophistiquées en permettant la reconnaissance, l’exploitation et la planification autonomes des attaques.
• Les cybercriminels utilisent de plus en plus des modèles d’IA sans garde-fous et des infrastructures d’IA légitimes pour déployer leurs opérations à grande échelle.
• L’IA fantôme, les compétences malveillantes des agents d’IA et les logiciels malveillants dopés à l’IA créent de nouveaux risques pour la sécurité et les identités des entreprises.
• Les chercheurs alertent sur le fait que l’IA pourrait accélérer considérablement la découverte de vulnérabilités zero-day, réduisant le temps dont disposent les défenseurs pour les corriger.
• Les organisations doivent donner la priorité à la gestion des vulnérabilités, à la surveillance continue et à la gouvernance de l’IA fantôme pour se préparer aux menaces propulsées par l’IA.

Comment l’IA abaisse le seuil d’accès aux cyberattaques 

Le rapport avertit également que l’adoption non maîtrisée de l’IA élargit la surface d’attaque des organisations et crée de nouvelles opportunités pour les attaquants. 

Les chercheurs estiment que les organisations disposent d’une fenêtre de tir de plus en plus étroite — environ six mois — pour se préparer avant que la prochaine génération de cybermenaces propulsées par l’IA ne se généralise.

Les conclusions mettent en évidence la manière dont les agents d’IA modernes ont évolué au-delà de la réponse aux questions ou de la génération de code. 

Les modèles actuels peuvent accomplir seuls des tâches complexes, utiliser des logiciels pendant de longues périodes et collaborer avec d’autres agents d’IA. 

Si ces capacités améliorent la productivité des utilisateurs légitimes, elles fournissent aussi aux cybercriminels de puissants outils offensifs inédits.

Le rapport cite notamment le cas d’un attaquant qui a utilisé des modèles d’IA grand public pour compromettre plusieurs organismes publics mexicains. 

Lors de la reconnaissance, l’IA a identifié une interface de contrôle et d’acquisition de données (SCADA) au sein d’un service municipal de distribution d’eau, l’a classée comme infrastructure critique et a recommandé une voie d’attaque, alors même que l’attaquant ne possédait aucune expertise préalable en technologies opérationnelles. 

Bien que l’intrusion ait finalement échoué, l’incident a démontré à quel point l’IA pouvait réduire le niveau d’expertise nécessaire pour cibler des infrastructures critiques.

Les outils d’IA criminels deviennent plus faciles d’accès 

Les chercheurs ont également constaté que les outils d’IA malveillants deviennent de plus en plus accessibles. 

Plutôt que de s’appuyer sur des modèles criminels développés sur mesure, de nombreux services clandestins se contentent d’appliquer des jailbreaks aux modèles d’IA de pointe légitimes afin de supprimer leurs garde-fous de sécurité, ou de revendre l’accès par l’intermédiaire d’infrastructures cloud légitimes.

Le rapport a également recensé plus de 6 600 modèles d’IA sans garde-fous publiés ouvertement sur Hugging Face.

Ensemble, ces modèles ont totalisé environ 22 millions de téléchargements sur une seule période de 30 jours. 

Comme beaucoup peuvent fonctionner localement, ils privent les fournisseurs cloud de la possibilité de surveiller les requêtes ou de limiter les abus.

Comment l’IA transforme les logiciels malveillants et les techniques de cyberattaque 

Les cybercriminels intègrent de plus en plus directement l’IA à leurs opérations. 

Le rapport fait état de cas documentés où des agents d’IA ont automatisé la reconnaissance, le vol d’identifiants et l’intrusion dans les réseaux de plusieurs secteurs d’activité. 

Les chercheurs ont également observé des logiciels malveillants capables de générer dynamiquement une logique malveillante pendant leur exécution, plutôt que de l’intégrer dans les fichiers binaires, ce qui réduit l’efficacité de la détection traditionnelle fondée sur les signatures.

Des variantes plus récentes de logiciels malveillants vont encore plus loin en exécutant des modèles d’IA localement sur les systèmes compromis au lieu de s’appuyer sur des API cloud. 

Cela réduit la visibilité des fournisseurs d’IA tout en compliquant la surveillance défensive.

Comment les agents d’IA créent de nouveaux risques internes pour la sécurité 

L’adoption rapide des agents d’IA autonomes crée également de nouveaux risques pour les entreprises.

Selon le rapport, les places de marché publiques de compétences pour agents d’IA sont rapidement devenues des cibles pour les attaquants. 

Les chercheurs ont documenté des compétences malveillantes capables de dérober des identifiants, d’exfiltrer des données sensibles, d’installer des logiciels malveillants et même de modifier la mémoire à long terme d’un agent d’IA afin de maintenir sa persistance.

Les attaquants se sont également tournés vers des techniques d’ingénierie sociale en déguisant des logiciels malveillants en ressources légitimes liées à l’IA. 

Dans un cas, un faux guide promettant d’aider les utilisateurs à tirer profit des marchés prédictifs pilotés par l’IA leur demandait de télécharger un fichier exécutable malveillant qui a finalement installé un logiciel destiné à dérober des identifiants. 

Au moment de sa découverte, la charge utile aurait affiché un taux de détection quasi nul sur de nombreux produits de sécurité des terminaux.

Comment l’IA fantôme accroît les risques de cybersécurité des entreprises 

Le rapport avertit que l’adoption par les employés d’outils d’IA non autorisés crée une surface d’attaque qui s’étend rapidement.

Près de la moitié des employés utilisant l’IA générative accéderaient à ces services via des comptes personnels non gérés. 

Les chercheurs citent des données indiquant qu’une organisation sur cinq a subi en 2025 une compromission liée à l’IA fantôme, les incidents coûtant en moyenne 670 000 dollars US de plus que les compromissions classiques.

En plus d’exposer des conversations sensibles et des données d’entreprise, les plateformes d’IA non gérées contiennent souvent des identifiants précieux, des jetons OAuth, des clés d’API et des jetons de session pouvant être exploités lors d’attaques fondées sur l’identité.

L’IA pourrait accélérer la découverte de vulnérabilités zero-day 

La prédiction la plus préoccupante du rapport concerne peut-être les vulnérabilités logicielles.

Les chercheurs évoquent ce qu’ils décrivent comme la première utilisation criminelle connue de l’IA pour développer un exploit zero-day et estiment que les futurs modèles d’IA pourraient accélérer considérablement la découverte de vulnérabilités.

Le rapport met en avant le modèle de recherche Mythos d’Anthropic, qui aurait identifié des vulnérabilités zero-day dans de grands systèmes d’exploitation et navigateurs, tout en démontrant sa capacité à construire des chaînes d’attaque complexes en plusieurs étapes. 

Les chercheurs pensent que des modèles d’IA dotés de capacités similaires pourraient apparaître sur les places de marché criminelles dans un délai de six à douze mois, ce qui accroîtrait les besoins des défenseurs en matière de développement d’exploits et de déploiement de correctifs.

Comment les organisations peuvent se préparer aux cybermenaces propulsées par l’IA 

ThreatDown suggère aux organisations de se concentrer sur trois priorités clés à mesure que les attaques propulsées par l’IA gagnent en maturité :

• Accélérer la gestion des vulnérabilités et le déploiement des correctifs afin de réduire les fenêtres d’exploitation.
• Maintenir une surveillance continue au moyen des opérations de sécurité ou d’une solution de détection et réponse managées afin d’identifier rapidement les attaques assistées par l’IA.
• Détecter et gouverner l’IA fantôme en identifiant les outils d’IA, les compétences d’agents et les intégrations d’IA non autorisés présents dans l’environnement.

Plutôt que de considérer l’IA comme une simple tendance technologique supplémentaire, le rapport suggère que les organisations se préparent à un paysage de cybersécurité où les attaquants peuvent automatiser la reconnaissance, accélérer le développement d’exploits et transformer l’adoption de l’IA elle-même en arme. 

Bien que nombre de ces capacités émergent déjà, les chercheurs estiment que les prochains mois pourraient déterminer si les défenseurs garderont une longueur d’avance sur les menaces tirant parti de l’IA ou s’ils auront du mal à suivre le rythme.

Que la compromission initiale provienne d’une attaque par hameçonnage assistée par l’IA, d’un vol d’identifiants ou d’un exploit zero-day, Zero Trust aide à limiter l’accès des attaquants et à réduire l’ampleur des dommages.