RSAC 2026 : repenser la confiance dans la sécurité de l’IA agentique

À l’approche de RSAC 2026, un entretien avec David Brauchler, directeur technique et responsable de la sécurité de l’IA/ML chez NCC Group, a mis en lumière une préoccupation croissante : de nombreuses organisations ne sont fondamentalement pas préparées à sécuriser les systèmes propulsés par l’IA. 

Alors que les entreprises adoptent rapidement l’IA agentique, les hypothèses traditionnelles en matière de sécurité s’effondrent, révélant d’importantes lacunes dans la compréhension et la gestion des risques.

Le déficit de compétences en sécurité de l’IA et les priorités mal placées

L’un des principaux défis réside dans le manque d’expertise. Le secteur de la cybersécurité lui-même ne compte pas encore suffisamment de professionnels maîtrisant en profondeur les risques spécifiques à l’IA. 

Les organisations se concentrent donc souvent sur des contrôles superficiels — comme les garde-fous — tout en négligeant des vulnérabilités plus importantes intégrées à la manière dont les systèmes d’IA interagissent avec les données. 

Selon Brauchler, cette mauvaise orientation a créé des « faux-semblants de sécurité », détournant l’attention des véritables menaces susceptibles d’entraîner des violations de données, une élévation de privilèges et une compromission complète du système.

L’IA déplace le risque vers la couche des données

Au cœur de ce problème se trouve un changement fondamental quant à l’endroit où se situe le risque. 

Les modèles de sécurité traditionnels mettent l’accent sur la couche des composants — applications, infrastructure et contrôles d’accès. 

Cependant, les systèmes d’IA inversent ce paradigme en déplaçant le risque vers la couche des données. 

Dans les systèmes d’IA agentique, le comportement n’est pas strictement défini par du code statique, mais influencé dynamiquement par les données d’entrée. 

Comme l’a expliqué Brauchler, « les IA sont fonction de leurs entrées », ce qui signifie que des données malveillantes ou non fiables peuvent directement modifier le comportement. 

Il en résulte un environnement où la confiance n’est plus fixe, mais fluide, continuellement remodelée par les informations entrantes.

Pourquoi les modèles de sécurité traditionnels échouent dans les systèmes agentiques

Ce changement introduit de nouvelles complexités. Dans les systèmes classiques, les autorisations sont liées aux utilisateurs ou aux services, et les niveaux de confiance restent relativement constants. 

À l’inverse, les systèmes agentiques doivent tenir compte de niveaux de confiance variables au sein même des données. 

Les entrées provenant de multiples sources — comme les utilisateurs, les API, ou les contenus web — peuvent introduire des niveaux de confiance contradictoires, augmentant à la fois la probabilité et l’impact des attaques. 

Par conséquent, les modèles traditionnels de contrôle d’accès sont insuffisants, car ils ne tiennent pas compte de la nature dynamique des flux de travail pilotés par l’IA.

Appliquer les principes du Zero Trust aux systèmes d’IA

Pour relever ces défis, Brauchler et son équipe préconisent une approche zéro confiance adaptée aux environnements d’IA. 

L’un des principes clés consiste à lier le comportement de l’IA à la provenance des entrées. En d’autres termes, les systèmes d’IA devraient hériter du niveau de confiance des données qu’ils traitent. 

Si un modèle d’IA est exposé à une entrée non fiable, ses capacités doivent être restreintes en conséquence. 

Ce concept, connu sous le nom de déplacement dynamique des capacités, garantit que des données potentiellement malveillantes ne puissent pas déclencher d’actions hautement privilégiées.

Déplacement dynamique des capacités et provenance des données

Une autre stratégie essentielle consiste à mieux prendre en compte la provenance des données. 

S’il n’est pas toujours possible de retracer chaque donnée jusqu’à son origine exacte, les organisations doivent mettre en place des mécanismes permettant d’évaluer et d’attribuer des niveaux de confiance en fonction du contexte d’exécution. 

Cela permet de prendre des décisions plus éclairées quant aux actions qu’un système d’IA devrait être autorisé à effectuer.

Aller au-delà de l’IA monolithique : les architectures à agents filtrés

Il est tout aussi important de s’éloigner des architectures d’IA monolithiques. De nombreuses organisations s’appuient sur un agent unique et très puissant pour effectuer un large éventail de tâches.

Ce modèle de « l’agent unique qui les gouverne tous » amplifie considérablement les risques, car toute compromission peut donner un accès étendu à des systèmes sensibles. 

Brauchler recommande plutôt les architectures Gated Agent, dans lesquelles les tâches sont réparties entre plusieurs agents spécialisés aux privilèges limités. 

Ces agents opèrent dans des environnements en bac à sable, et leurs sorties sont converties en types de données sûrs et validés avant d’être transmises à des composants bénéficiant d’un niveau de confiance supérieur.

Segmentation de la confiance et modèles de conception sécurisés

Ce changement d’architecture s’inscrit dans le principe plus large de segmentation de la confiance. 

Les agents hautement fiables ne doivent jamais être exposés à des données non validées ou contaminées, tandis que les agents peu fiables ne doivent pas avoir accès aux fonctions privilégiées. 

En imposant des frontières strictes et en validant les données lorsqu’elles circulent entre les composants, les organisations peuvent réduire le risque d’attaques intercontextuelles, comme l’injection de prompt ou l’exfiltration de données.

Contrôles complémentaires pour sécuriser l’IA agentique

Outre ces modèles de conception, plusieurs contrôles complémentaires sont essentiels. 

Le masquage des entrées empêche l’exposition de données sensibles à des contextes non fiables, tandis que la synchronisation des entrées/sorties garantit que les résultats d’un agent sont correctement validés avant d’être utilisés ailleurs. 

La minimisation des tâches réduit encore les risques en limitant l’étendue des actions qu’un agent donné peut effectuer. 

Ensemble, ces mesures créent un modèle de défense en profondeur qui reflète la nature dynamique des systèmes d’IA.

Repenser l’IA comme une extension de l’identité de l’utilisateur

En définitive, sécuriser l’IA agentique nécessite un changement de mentalité. 

Les organisations doivent cesser de considérer l’IA comme un simple composant applicatif et la reconnaître plutôt comme une extension de l’identité et de l’intention de l’utilisateur. 

Comme l’a souligné Brauchler, les systèmes d’IA agissent au nom des utilisateurs et devraient être régis par les mêmes principes de sécurité. 

Tout assouplissement des contrôles au seul motif qu’une action provient d’un système d’IA introduit un risque inacceptable.

Une feuille de route pour sécuriser les systèmes d’IA

La voie à suivre passe par des changements à la fois techniques et organisationnels. 

À court terme, les organisations doivent identifier les parties prenantes de l’intégration de l’IA et commencer à modéliser les menaces qui pèsent sur leur paysage de risques liés à l’IA. 

À moyen terme, elles doivent concevoir des pipelines d’inférence sécurisés et former les développeurs aux pratiques de sécurité spécifiques à l’IA. 

La réussite à long terme dépend de l’intégration de ces contrôles dans tous les environnements applicatifs et de la mise en place d’architectures standardisées pour les futurs déploiements.

Sécuriser l’avenir de l’IA agentique

L’essor de l’IA agentique impose de redéfinir la confiance en cybersécurité. 

En se concentrant sur les risques centrés sur les données, en imposant des contrôles dynamiques des privilèges et en adoptant des architectures segmentées, les organisations peuvent commencer à combler le fossé entre innovation et sécurité. 

Même si les défis sont bien réels, comme l’a souligné Brauchler, une IA sécurisée est possible — à condition que les organisations soient prêtes à repenser leur approche et à agir avec détermination.