Alors que les organisations déploient des agents IA de plus en plus autonomes, les faiblesses existantes de la sécurité réseau pourraient permettre à ces systèmes d’aller au-delà de leurs responsabilités prévues.
Les mécanismes de protection traditionnels de l’IA ne suffisent peut-être pas à traiter ces risques, en particulier lorsque les politiques d’accès réseau sont trop permissives.
De récentes recommandations conjointes du NIST, de la CISA et de la NSA abordent la préparation et la réponse aux incidents concernant les systèmes d’IA hautement performants.
J’ai interrogé Dan Rheault, directeur de la gestion des produits chez FireMon, par e-mail, sur ce que les organisations peuvent retenir de ces recommandations et sur la manière dont les équipes de sécurité doivent préparer leurs réseaux avant d’accorder davantage d’autonomie aux agents IA.
- Les agents IA amplifient les faiblesses existantes de la sécurité réseau
- Des politiques trop permissives élargissent la surface d’attaque potentielle
- La sécurité réseau traditionnelle doit s’appuyer sur des couches supplémentaires de contrôle
- Le confinement des incidents doit être testé avant le déploiement
- Trois priorités pour sécuriser les agents IA autonomes
- En résumé
Les agents IA amplifient les faiblesses existantes de la sécurité réseau
« Le comportement prévu d’un agent ne constitue pas une frontière de sécurité opposable », a expliqué Rheault, soulignant que les organisations ne doivent pas confondre les instructions données à un agent avec des contrôles de sécurité appliqués indépendamment.
Bien que les recommandations fédérales portent principalement sur l’entraînement et l’évaluation des IA avancées, Rheault estime que leurs principes de sécurité sous-jacents s’appliquent aux déploiements en entreprise.
Les agents IA introduisent des risques supplémentaires car ils peuvent prendre des décisions de manière autonome tout en disposant potentiellement d’un accès étendu aux systèmes de l’entreprise.
Leur capacité à exécuter des actions à la vitesse d’une machine accroît encore les conséquences potentielles d’une erreur. Une seule instruction pourrait déclencher plusieurs actions dans des systèmes interconnectés, étendant l’impact au-delà du flux de travail prévu.
Par exemple, un agent IA chargé de générer des rapports pourrait également disposer d’un accès réseau aux interfaces d’administration de la production. Même si l’agent n’utilise jamais ces connexions, leur disponibilité crée une exposition inutile.
Rheault recommande d’examiner les chemins d’accès potentiels plutôt que de se fier exclusivement au trafic réseau observé. Les équipes de sécurité doivent comprendre quels systèmes un agent pourrait atteindre, et pas seulement ceux auxquels il a déjà accédé.
Des politiques trop permissives élargissent la surface d’attaque potentielle
Des années d’accumulation de règles de pare-feu et de politiques d’accès obsolètes peuvent créer d’importantes difficultés lorsque les organisations introduisent des agents IA autonomes. Des connexions réseau non documentées peuvent encore compliquer les efforts visant à identifier les expositions inutiles.
Un agent chargé de récupérer des informations sur les stocks pourrait hériter d’un accès à l’ensemble d’un sous-réseau applicatif, exposant potentiellement des bases de données ou des interfaces d’administration sans rapport avec sa mission.
La connectivité réseau à elle seule n’autorise pas un agent à modifier ces systèmes. Toutefois, des privilèges applicatifs excessifs pourraient permettre des actions non autorisées, notamment lorsque des identifiants exposés ou des vulnérabilités exploitables sont également présents.
Rheault recommande d’associer la finalité métier de chaque agent aux chemins réseau et aux services nécessaires à l’accomplissement de ses tâches. Les équipes de sécurité doivent également identifier les identités et les autorisations nécessaires avant d’accorder l’accès.
Les tests doivent aller au-delà de la simple vérification qu’un agent peut accomplir les responsabilités qui lui sont confiées.
« La réussite d’une tâche prouve que l’agent dispose d’un accès suffisant. Les tests négatifs confirment qu’il n’en a pas trop », a déclaré Rheault.
La sécurité réseau traditionnelle doit s’appuyer sur des couches supplémentaires de contrôle
Les pare-feu traditionnels et les contrôles réseau restent pertinents, mais Rheault a averti qu’ils ne peuvent pas déterminer seuls si chaque action effectuée par un agent IA est autorisée.
Un agent peut se connecter légitimement à une API approuvée tout en tentant d’effectuer une opération en dehors de ses responsabilités attribuées.
Les organisations ont donc besoin de contrôles de sécurité coordonnés qui restreignent l’accès réseau et appliquent des autorisations fondées sur l’identité. L’autorisation applicative et les restrictions au niveau des outils offrent des protections supplémentaires contre les actions non autorisées.
Les environnements hybrides compliquent l’application des contrôles, car les mécanismes de sécurité du cloud peuvent différer des politiques de pare-feu traditionnelles. Les politiques au niveau des charges de travail peuvent introduire d’autres incohérences dans la gestion des accès.
Les équipes de sécurité doivent établir des liens clairs entre les activités métier approuvées et les identités des agents. Ces liens doivent également définir les autorisations applicatives et les connexions réseau nécessaires à chaque agent.
Le confinement des incidents doit être testé avant le déploiement
Les recommandations conjointes insistent sur la vérification du confinement avant la reprise des opérations par les systèmes touchés.
Rheault recommande de préparer des moyens d’isoler les charges de travail touchées et de restreindre les connexions réseau sortantes. Les équipes de sécurité doivent également pouvoir arrêter l’exécution de l’agent et révoquer les identifiants concernés afin d’empêcher toute nouvelle activité non autorisée.
Les équipes de sécurité doivent confirmer que les modifications du pare-feu mettent fin aux connexions existantes, plutôt que de supposer que les règles mises à jour bloquent immédiatement l’ensemble du trafic.
Avant de redémarrer un agent touché, les organisations doivent reproduire le comportement problématique dans un environnement isolé. Elles doivent vérifier que les connexions interdites échouent sans perturber les opérations légitimes.
Les équipes doivent également confirmer que les alertes de supervision fonctionnent correctement. Des tests supplémentaires doivent vérifier que d’autres chemins réseau ne permettent pas de contourner les restrictions de sécurité mises à jour.
Trois priorités pour sécuriser les agents IA autonomes
Rheault a identifié trois priorités auxquelles les organisations doivent répondre avant de déployer des agents IA autonomes :
- Établir la visibilité : Documenter le responsable et la finalité métier de chaque agent. Identifier son environnement d’exécution et son identité, puis cartographier les dépendances nécessaires et les destinations réseau approuvées. Examiner les chemins d’accès inexpliqués.
- Faire respecter les limites d’accès : Appliquer des restrictions réseau fondées sur le principe du moindre privilège, en complément des autorisations fondées sur l’identité. Mettre en place une autorisation applicative et des contrôles au niveau des outils pour empêcher les actions non autorisées. Vérifier par des tests que les activités approuvées réussissent tandis que les activités interdites échouent.
- Valider en continu le confinement : Mesurer la rapidité avec laquelle les équipes de sécurité peuvent détecter une activité suspecte et isoler les agents touchés. Vérifier que les connexions interdites sont interrompues, y compris les sessions existantes. Répéter régulièrement les procédures de reprise afin de confirmer que les contrôles de confinement restent efficaces.
En résumé
J’estime que la leçon générale est que la sécurité et la gouvernance de l’IA ne peuvent pas dépendre exclusivement du contrôle de la manière dont les agents sont instruits de se comporter. À mesure que les organisations accordent davantage d’autonomie aux agents, les équipes de sécurité doivent appliquer indépendamment leurs limites d’accès et vérifier en continu que ces contrôles fonctionnent comme prévu.
Pour plus de conseils, consultez notre AI Agent Safety Checklist afin d’évaluer les contrôles de sécurité que les organisations doivent mettre en place avant de déployer des agents autonomes.