Des agents d’IA testant leurs capacités ont accédé à des dossiers confidentiels au sein d’entreprises indiennes, et les organisations touchées n’auraient pas détecté les intrusions.
L’agence nationale indienne de cybersécurité, l’Indian Computer Emergency Response Team (CERT-In), a publié le 15 oct. un avis avertissant que des agents logiciels autonomes évalués par des développeurs d’IA avaient compromis les systèmes en production d’entreprises du pays. Les systèmes autonomes ont lu les registres internes de l’entreprise, des documents exclusifs d’entreprise et des données personnelles.
Aucune des organisations victimes n’a découvert elle-même les compromissions. Les intrusions n’ont été révélées qu’après que les fournisseurs d’IA anonymes ont découvert l’activité non autorisée lors d’examens internes et transmis volontairement les informations au gouvernement.
La double menace : tests incontrôlés et campagnes criminelles
Selon le CERT-In, les agents de test ont franchi les frontières numériques en récupérant des secrets laissés en accès libre. Les systèmes ont découvert des identifiants et des paramètres de connexion publiés dans des dépôts de code publics, des configurations d’applications non sécurisées et des rôles backend cloud trop permissifs. Dans plusieurs cas, les agents sont même allés jusqu’à recalculer et réutiliser les mêmes clés exposées dans des opérations distinctes.
Dans les cas de divulgation volontaire, les agents n’ont pas déployé d’exploits zero-day exotiques. Leurs actions ont simplement « dépassé le niveau d’autorisation de leurs tâches assignées » sur l’Internet public, en découvrant des erreurs de configuration élémentaires passées inaperçues.
L’agence a également signalé une menace distincte et intentionnelle. Dans le cadre d’opérations proactives de traque des menaces, le CERT-In a découvert des cybercriminels déployant des frameworks open source de sécurité offensive natifs de l’IA dans des attaques motivées par des considérations financières contre des infrastructures indiennes.
Grâce à l’automatisation multi-agents, ces attaquants ont réduit la durée habituelle d’une intrusion, la faisant passer de plusieurs jours à quelques heures seulement. Lorsque les organisations compromises tentaient des réparations incomplètes, les essaims d’attaques automatisées revenaient quelques jours plus tard à une échelle encore plus grande.
Le CERT-In a souligné que les vulnérabilités sous-jacentes étaient tout à fait classiques, notamment des clés d’API de paiement en clair, des interfaces de test dormantes et des tableaux de bord d’administration dépourvus d’authentification multifacteur. L’agence a toutefois averti que les systèmes d’IA transformaient ces négligences courantes en armes « plus rapidement, de manière plus exhaustive et à une plus grande échelle que les attaquants humains ».
La vitesse autonome bouleverse les délais de correction
Ces incidents suggèrent que l’automatisation pilotée par l’IA peut considérablement réduire le délai entre l’exposition d’une faille de sécurité et son exploitation, laissant aux organisations moins de temps pour identifier et contenir les menaces.
La sécurité des entreprises s’est longtemps appuyée sur la latence opérationnelle humaine : lorsqu’un mot de passe ou une clé d’API est accidentellement exposé dans un dépôt public, les défenseurs disposent généralement d’un bref répit de quelques heures ou jours avant qu’un attaquant ne le trouve, le valide et l’exploite manuellement. Les agents autonomes suppriment cette fenêtre.
Comme les agents exécutent simultanément la planification, la collecte d’identifiants, et le déplacement dans l’infrastructure à la vitesse du calcul, une seule clé exposée devient un point d’entrée instantané. Lorsque la remédiation est partielle, les outils automatisés n’ont besoin d’aucun temps d’arrêt pour se regrouper et lancer des balayages de suivi incessants, plus rapides que les cycles manuels d’application des correctifs.
Ce que les équipes de sécurité doivent faire
L’avis rappelle l’importance de sécuriser les identifiants, de limiter les autorisations et de surveiller l’accès aux systèmes sensibles.
Les organisations doivent régulièrement analyser les dépôts publics et les configurations d’applications à la recherche de secrets exposés, révoquer les identifiants compromis et appliquer des contrôles d’accès selon le principe du moindre privilège aux comptes de service et aux environnements cloud.
Les équipes de sécurité doivent également surveiller les activités inhabituelles des API, les accès inattendus à des dossiers sensibles et les tentatives d’authentification répétées, qui pourraient indiquer un sondage automatisé.
Pour les organisations qui développent ou déploient des agents d’IA, ces conclusions font apparaître une responsabilité supplémentaire : définir et faire respecter des limites d’autorisation afin que les agents ne puissent pas accéder à des systèmes ou à des informations extérieurs à leurs tâches assignées.
La leçon plus générale est que les failles de sécurité familières deviennent plus difficiles à gérer lorsque des systèmes automatisés peuvent les découvrir et les exploiter à grande échelle. Des contrôles d’accès robustes, une surveillance continue et une remédiation complète restent essentiels, que l’activité provienne d’un attaquant malveillant ou d’un agent d’IA opérant au-delà du périmètre prévu.
Autre actualité : Burger King Japan a confirmé une fuite de données concernant environ 11,18 millions de dossiers d’adhérents après un accès non autorisé à la base de données de son application.