À mesure que les systèmes d’IA agentique passent des projets pilotes au déploiement dans le monde réel, la gouvernance devient rapidement une préoccupation au niveau des conseils d’administration.
Contrairement aux modèles d’IA traditionnels qui génèrent du contenu, agentiques peuvent appeler des outils de manière autonome, accéder aux données de l’entreprise et exécuter des actions dans les systèmes métier — ce qui modifie fondamentalement l’équation des risques.
« À mesure que l’IA agentique passe de l’expérimentation au déploiement dans le monde réel, la gouvernance est devenue essentielle », a déclaré Chris Hughes, vice-président de la stratégie de sécurité chez Zenity dans un e-mail adressé à eSecurityPlanet.
Il a ajouté : « Les systèmes d’IA agentique sont conçus pour agir de manière autonome, appeler des outils et interagir directement avec les données et les systèmes de l’entreprise. Cela modifie fondamentalement la manière dont les risques doivent être gérés. »
Comment l’IA agentique modifie la gestion des risques
L’IA agentique introduit un défi de gouvernance fondamentalement différent de celui posé par les générations précédentes d’IA.
Les efforts traditionnels de supervision se sont largement concentrés sur la précision des modèles, l’atténuation des biais et la qualité des résultats — afin de garantir que les systèmes génèrent des réponses fiables et responsables.
L’IA agentique, en revanche, va au-delà de la génération de contenu.
Ces systèmes ingèrent régulièrement des entrées non fiables — comme des e-mails, des documents, des messages de discussion, du contenu de navigateur et des réponses d’API — puis agissent sur ces informations en utilisant des autorisations qui leur sont soit explicitement attribuées, soit héritées des utilisateurs.
Cette évolution change la nature du risque.
Comme l’indique le NIST AI Risk Management Framework, une gouvernance efficace doit aller au-delà des performances du modèle et couvrir les contrôles du cycle de vie, l’observabilité et des limites de politique applicables.
Autrement dit, la gouvernance doit tenir compte non seulement de ce qu’un système d’IA dit, mais aussi de ce à quoi il peut accéder et de ce qu’il est autorisé à faire, conformément à un contrôle souverain de l’IA plus large de l’accès aux données et de la gouvernance des systèmes
Les organisations qui considèrent les agents comme de simples outils de productivité risquent de sous-estimer leur impact opérationnel. En pratique, les systèmes agentiques s’apparentent davantage à des plateformes d’automatisation dotées d’une autorité déléguée.
Ils peuvent déclencher des workflows, modifier des enregistrements, interagir avec des plateformes SaaS et exécuter des tâches dans les systèmes de l’entreprise.
Cette convergence de l’autonomie et des privilèges crée de nouvelles surfaces d’attaque, en particulier lorsque les agents fonctionnent en continu et conservent le contexte d’une interaction à l’autre.
L’IA agentique se distingue des déploiements d’IA précédents de plusieurs façons essentielles :
- Les agents ingèrent des entrées externes non fiables dans le cadre de leur fonctionnement normal.
- Ils agissent de manière autonome en utilisant des autorisations accordées ou héritées.
- Ils peuvent conserver une mémoire et un contexte d’une session à l’autre.
- Ils peuvent interagir directement avec des systèmes sensibles de l’entreprise.
Ensemble, ces caractéristiques couplent étroitement l’entrée, le raisonnement et l’exécution.
Si un agent traite un contenu manipulé ou malveillant et dispose de privilèges suffisants, il peut effectuer des actions involontaires sans intervention humaine.
Du point de vue de la gouvernance, cela ressemble davantage à un problème de confiance entre machines qu’à un défi traditionnel de modération de contenu.
Le risque ne se limite plus à des résultats inexacts : il inclut les accès non autorisés, l’automatisation dangereuse et un impact potentiellement systémique sur les systèmes interconnectés.
Séparer les entrées de l’exécution
Un principe fondamental de la gouvernance de l’IA agentique consiste à séparer clairement les entrées non fiables de l’exécution privilégiée.
Comme les agents consomment régulièrement du contenu externe — notamment des e-mails, des messages de discussion, des documents et des réponses d’API — il existe un risque que des entrées manipulées ou malveillantes influencent directement des actions au niveau du système.
Sans mesures de protection, un agent pourrait transformer du contenu externe en opérations privilégiées, comme la modification d’enregistrements, le déclenchement de transactions financières ou l’accès à des systèmes sensibles, sans validation suffisante.
Une gouvernance efficace exige d’insérer des couches d’application des politiques entre ce qu’un agent lit et ce qu’il est autorisé à exécuter.
Les organisations étudient plusieurs approches pour gérer cette frontière de confiance.
L’une d’elles consiste à prévoir une supervision humaine dans la boucle ou au-dessus de la boucle pour les actions à fort impact, afin de garantir que les opérations critiques soient examinées avant ou pendant leur exécution.
Une autre approche fait appel à des moteurs de politiques qui appliquent des contrôles contextuels — en évaluant des facteurs tels que la sensibilité des données, le rôle de l’utilisateur, les conditions de l’environnement ou les indicateurs d’anomalie — avant d’autoriser une action.
Les implémentations plus avancées intègrent des agents de supervision ou de protection qui surveillent en continu le comportement à l’exécution, imposent des garde-fous et interviennent lorsque l’activité s’écarte des politiques définies.
Ces systèmes peuvent agir comme des sentinelles automatisées, réduisant la dépendance à l’examen manuel tout en maintenant le contrôle à grande échelle.
L’objectif général est d’empêcher les chemins directs et non filtrés entre des entrées non fiables et des opérations à fort impact, afin de renforcer les frontières de confiance au sein des workflows d’IA autonomes.
Moindre privilège et moindre autonomie
Tout comme les programmes modernes de gestion des identités et des accès reposent sur le principe du moindre privilège, la gouvernance de l’IA agentique doit appliquer la même discipline aux systèmes autonomes.
Les agents doivent recevoir des autorisations dont la portée est strictement limitée à leur rôle défini et à leur cas d’usage prévu.
L’accès aux référentiels de données, aux API, aux systèmes financiers ou aux outils d’administration doit être explicitement autorisé et limité, plutôt que largement hérité.
Un risque fréquent survient lorsque les agents héritent des autorisations d’utilisateurs fortement privilégiés. Si un cadre dirigeant ou un administrateur délègue un accès à un agent sans restriction, celui-ci opère de fait avec une autorité élevée sur plusieurs systèmes.
Dans de tels scénarios, une mauvaise configuration, une injection de prompt ou une entrée malveillante pourrait entraîner des actions involontaires aux conséquences étendues à toute l’entreprise.
La limitation stricte de la portée des identifiants, des comptes de service et des jetons d’API réduit l’ampleur des dégâts si un agent se comporte de manière inattendue ou est compromis.
Au-delà du contrôle des accès, la gouvernance évolue pour prendre en compte le degré d’autonomie accordé aux agents.
Cette évolution a donné naissance au concept émergent d’autonomie aux autorisations minimales.
Tous les cas d’usage n’exigent pas qu’un agent agisse indépendamment et sans supervision.
Les cadres de gouvernance
doivent définir des niveaux d’autonomie acceptables en fonction de la sensibilité au risque, de l’exposition réglementaire et de l’impact opérationnel.
Les tâches à faible risque peuvent autoriser un degré d’indépendance plus élevé, tandis que les workflows à fort impact — comme les approbations financières, l’attribution d’accès ou la modification de données — peuvent nécessiter une escalade par étapes, une validation par un superviseur ou des contraintes à l’exécution.
En alignant les niveaux d’autorisation et d’autonomie sur des rôles métier et des seuils de risque clairement définis, les organisations peuvent mieux équilibrer utilité et contrôle.
Observabilité et auditabilité
Les systèmes agentiques héritent d’une caractéristique fondamentale des grands modèles de langage (LLM) : le non-déterminisme.
Le même prompt, présenté dans des conditions contextuelles légèrement différentes, peut produire des résultats ou des décisions différents.
Si cette flexibilité favorise l’adaptabilité et la résolution de problèmes, elle introduit également une part d’imprévisibilité.
Lorsque les agents sont autorisés à agir — plutôt qu’à simplement générer des réponses — cette variabilité renforce l’importance de l’observabilité et du contrôle.
Pour que la gouvernance soit efficace, les organisations doivent aller au-delà de la supervision superficielle et mettre en place une visibilité approfondie du comportement des agents.
Cela comprend la journalisation complète des appels d’outils, des appels d’API et des tentatives d’accès aux systèmes, ainsi que des enregistrements précis des données consultées et des actions exécutées.
Les pistes d’audit sont tout aussi essentielles : les équipes de sécurité doivent pouvoir reconstituer le chemin décisionnel ayant conduit à une action donnée, notamment les entrées contextuelles, les étapes intermédiaires du raisonnement et les contrôles de politique appliqués à l’exécution.
La visibilité à l’exécution permet aux organisations de détecter des anomalies telles qu’une élévation inhabituelle des privilèges, une récupération excessive de données ou l’exécution inattendue d’un workflow.
Les contrôles intégrés — comme l’application automatisée des politiques, les seuils d’anomalie ou les mécanismes d’arrêt d’urgence — permettent de suspendre ou de mettre en quarantaine une activité suspecte avant qu’elle ne se propage dans les systèmes.
Sans ces capacités, la réponse aux incidents devient nettement plus difficile. Les investigations risquent de manquer de contexte pour déterminer si un agent a agi conformément à la politique, a été manipulé par une entrée malveillante ou s’est écarté de sa configuration prévue.
Dans les environnements réglementés, une journalisation et une traçabilité insuffisantes peuvent également compromettre les efforts de mise en conformité et la préparation aux audits.
Une observabilité robuste n’est donc pas simplement une amélioration technique : c’est une exigence fondamentale pour une gouvernance responsable et digne de confiance de l’IA agentique.
Comment les organisations peuvent mettre en œuvre la gouvernance de l’IA agentique
L’IA agentique doit être gouvernée comme une infrastructure essentielle, et non comme une fonctionnalité expérimentale ajoutée à des systèmes existants.
En pratique, les agents autonomes s’apparentent davantage à des plateformes d’identités, des comptes de service ou des moteurs d’automatisation qu’à des applications traditionnelles.
Ils détiennent des identifiants, interagissent avec plusieurs systèmes et exécutent des actions susceptibles d’affecter concrètement les activités de l’entreprise. Par conséquent, la gouvernance doit être intégrée à l’ensemble de leur cycle de vie opérationnel.
Une supervision efficace commence par une gestion formelle du cycle de vie.
Elle comprend des processus de déploiement structurés, une définition claire des responsabilités, des normes de configuration documentées et des procédures sécurisées de mise hors service lorsque les agents sont retirés.
Les agents ne doivent pas être provisionnés au cas par cas ni être autorisés à subsister indéfiniment sans examen.
Les opérations courantes doivent inclure une surveillance continue et une application active des politiques, afin de garantir que les agents restent dans les limites comportementales et d’accès définies à mesure qu’ils évoluent.
La gouvernance doit également intégrer les systèmes agentiques aux contrôles existants de l’entreprise.
Cela inclut les processus de gestion des vulnérabilités pour traiter les risques liés aux dépendances, les cadres de conformité pour répondre aux exigences d’audit et les procédures de gestion des changements pour examiner les mises à jour de configuration et les attributions de privilèges.
Toute modification de la portée des accès d’un agent, de son niveau d’autonomie ou de ses intégrations système doit être soumise au même niveau d’examen que les changements liés aux identités ou à l’infrastructure.
Les contrôles reposant uniquement sur une approbation manuelle pour chaque action ne passeront pas à l’échelle dans des environnements où les agents fonctionnent en continu et à grande vitesse.
Les organisations ont plutôt besoin de garde-fous automatisés — moteurs de politiques, systèmes de détection des anomalies et mécanismes d’application à l’exécution — capables de s’adapter à des agents persistants fonctionnant sur de longues durées sans créer de goulets d’étranglement opérationnels.
Pour les organisations qui commencent à déployer l’IA agentique, la gouvernance doit être établie avant l’expansion.
Cela signifie définir rapidement les limites d’autonomie, mettre en place la visibilité à l’exécution dès le départ et intégrer les agents aux cadres de gestion des identités, des accès et des risques.
Intégrer la gouvernance aux fondations du déploiement — plutôt que d’ajouter des contrôles après le passage à l’échelle — est essentiel pour garantir que l’IA agentique améliore les opérations sans introduire de risques non maîtrisés.
Déployer l’IA agentique en toute sécurité
À mesure que l’IA agentique s’intègre davantage aux workflows métier essentiels, la gouvernance jouera un rôle central dans la capacité des organisations à gérer efficacement les risques associés.
La définition précoce de limites de politique claires, d’une visibilité à l’exécution et d’autorisations dont la portée est correctement limitée peut contribuer à un déploiement sûr et évolutif.
Traiter l’IA agentique avec la même discipline opérationnelle que celle appliquée aux plateformes d’identités, d’automatisation et cloud permet aux responsables de la sécurité d’aligner innovation et responsabilité.
À terme, une gouvernance cohérente sera essentielle pour préserver la confiance et la stabilité dans les environnements d’IA autonomes.