La sécurité agentique devient rapidement l’un des grands sujets de la cybersécurité, tandis que les entreprises évaluent la manière dont les agents IA peuvent automatiser les opérations de sécurité.
Le débat ne porte plus sur la question de savoir si l’IA a sa place dans le centre des opérations de sécurité (SOC), mais sur celle de savoir si les entreprises peuvent faire confiance aux agents IA pour prendre des décisions dans des environnements de production.
Les acteurs malveillants ont déjà adopté l’IA pour accélérer les campagnes d’hameçonnage, la reconnaissance et le développement de logiciels malveillants, permettant aux attaques de se dérouler à la vitesse des machines.
Pendant ce temps, de nombreux défenseurs continuent de s’appuyer sur des workflows conçus pour une époque bien plus lente.
Selon le rapport State of Agentic Security de Strike48, 84 % des responsables de la sécurité estiment que les agents IA devraient assurer les opérations de sécurité de niveau 1 (L1), mais seuls 36 % ont déployé des agents pour au moins un cas d’usage en production, et à peine 22 % sont prêts à automatiser les tâches L1 de base.
Cet écart met en évidence le principal défi auquel la sécurité agentique est aujourd’hui confrontée : la confiance.
Tim Leehealey, fondateur et vice-président de la stratégie et des opérations chez Strike48, a déclaré que l’adoption par les entreprises restait largement expérimentale malgré le soutien croissant des dirigeants.
« Dès que les équipes commencent à tester un agent et constatent qu’elles peuvent lui faire confiance pour agir concrètement, tout change », a expliqué Leehealey. « Mettre en place un agent IA est trivial. Mettre en place un agent auquel on ferait confiance pour agir sans supervision à 3 heures du matin est un tout autre sport. »
- Principaux enseignements sur la sécurité des agents IA
- Pourquoi la confiance est le principal défi de la sécurité agentique
- Pourquoi les agents IA ont encore besoin d’une supervision humaine
- Par où commencer avec les agents IA dans le SOC
- La visibilité sur les données est essentielle à la sécurité agentique
- Comment évaluer les agents IA avant la production
Principaux enseignements sur la sécurité des agents IA
- L’adoption de la sécurité agentique s’accélère, mais la confiance reste le principal obstacle. Si 84 % des responsables de la sécurité estiment que les agents IA devraient prendre en charge les opérations de sécurité de niveau 1, seuls 36 % les ont déployés en production et à peine 22 % sont prêts à automatiser les tâches L1 de base.
- Les entreprises devraient commencer par des workflows SOC à faible risque. Le triage des alertes, la recherche de menaces et l’investigation figurent parmi les opérations de sécurité les mieux adaptées aux agents IA, tandis que les actions plus risquées devraient continuer à faire l’objet d’une supervision humaine.
- La visibilité sur les données est essentielle à l’efficacité des agents IA. Un accès incomplet aux données de télémétrie de sécurité limite la capacité d’un agent IA à prendre des décisions exactes, ce qui fait de la visibilité unifiée une exigence fondamentale de la sécurité agentique.
- La confiance doit se gagner grâce à la gouvernance et à la transparence. Des workflows déterministes, des pistes d’audit, une prise de décision explicable et une supervision humaine configurable aident les entreprises à adopter les agents IA en toute confiance tout en réduisant les risques opérationnels.
Pourquoi la confiance est le principal défi de la sécurité agentique
De nombreux responsables de la sécurité reconnaissent les avantages opérationnels que pourraient offrir les agents IA, notamment pour les opérations de sécurité répétitives et à fort volume.
Cependant, la confiance dans la prise de décision autonome reste limitée.
Les recherches de Strike48 ont montré que 52 % des entreprises citent l’insuffisance de confiance dans les résultats de l’IA comme la principale raison pour laquelle elles n’ont pas déployé largement les agents IA.
Les responsables de la sécurité craignent que les agents exécutent des actions involontaires ou préjudiciables (71 %), tirent des conclusions erronées par hallucination (69 %) ou prennent des décisions à partir de données incomplètes (57 %).
Leehealy estime que ces préoccupations sont parfaitement rationnelles.
« Lorsque les agents se trompent, ils affichent une grande assurance », a-t-il déclaré. « Une seule réponse erronée formulée avec assurance suffit pour que l’analyste cesse de croire les suivantes. La confiance est ici un problème d’ingénierie, pas un problème émotionnel. »
Plutôt que de demander aux entreprises de faire aveuglément confiance à l’IA, Leehealey estime que les fournisseurs doivent concevoir des plateformes de sécurité agentique qui inspirent confiance grâce à des workflows déterministes, un raisonnement transparent, des pistes d’audit complètes et des garde-fous clairement définis.
Pourquoi les agents IA ont encore besoin d’une supervision humaine
Les récits d’erreurs commises par l’IA ont renforcé les inquiétudes autour des opérations de sécurité autonomes. erreursCependant, Leehealey affirme que ces incidents reflètent souvent des attentes irréalistes plutôt que des défaillances de la technologie sous-jacente.
Cependant, Leehealey affirme que ces incidents reflètent souvent des attentes irréalistes plutôt que des défaillances de la technologie sous-jacente.
« Si vous voulez que les agents soient techniquement précis, ils doivent être associés à des workflows déterministes, des jeux d’outils, des scripts et des runbooks », a-t-il déclaré.
Plutôt que de supprimer complètement les humains, les entreprises devraient évoluer vers ce que Leehealey décrit comme un « humain dans la boucle de supervision », plutôt qu’un « humain dans la boucle ».
Les équipes de sécurité établissent des politiques de gouvernance, déterminent quelles actions nécessitent une approbation et surveillent en permanence les résultats, tout en laissant les agents IA prendre en charge les tâches répétitives et moins risquées.
Cette approche permet aux entreprises d’accroître progressivement l’automatisation tout en maintenant une supervision humaine pour les décisions plus risquées, créant ainsi une voie pragmatique vers l’automatisation fiable du SOC.
Par où commencer avec les agents IA dans le SOC
Les responsables de la sécurité semblent s’accorder sur les domaines dans lesquels les agents IA peuvent apporter une valeur immédiate.
Selon l’enquête, 60 % automatiseraient en premier le triage et la priorisation des alertes, suivis de la recherche de menaces dans les données historiques (39 %) et de l’investigation et de l’analyse des causes profondes (36 %).
Ces workflows du SOC consistent à collecter, corréler et synthétiser de grandes quantités d’informations plutôt qu’à prendre des décisions opérationnelles irréversibles, ce qui les rend particulièrement adaptés aux opérations de sécurité assistées par l’IA.
« Dès qu’une tâche peut produire un résultat qu’il n’est pas facile d’annuler, comme une mesure de confinement ou de remédiation touchant la production, un humain doit être dans la boucle », a déclaré Leehealey.
Il a également déconseillé d’automatiser des tâches isolées sans repenser le workflow dans lequel elles s’inscrivent.
Les gains d’efficacité les plus importants apparaissent lorsque les agents IA peuvent mener à bien un workflow complet de niveau 1 ou de niveau 2 et ne transmettre que les incidents nécessitant un jugement humain.
La visibilité sur les données est essentielle à la sécurité agentique
La confiance n’est qu’une partie de l’équation. Le rapport identifie également la visibilité sur les données comme un obstacle majeur à la réussite de la sécurité agentique.
Quatre-vingt-quatre pour cent des responsables de la sécurité indiquent que leurs outils de sécurité actuels ne peuvent pas accéder à toutes les données de journalisation disponibles, tandis que 65 % déclarent que des investigations ont été interrompues parce que des informations critiques étaient piégées dans des systèmes auxquels leurs outils ne pouvaient pas accéder.
Leehealey a souligné que les agents IA héritent des mêmes angles morts que l’infrastructure qui les soutient.
« Nos recherches ont montré que 84 % des équipes de sécurité ne peuvent pas accéder à l’ensemble de leurs données de journalisation », a-t-il déclaré. « Tout agent construit à partir d’une vision partielle hérite des mêmes angles morts que l’infrastructure sous-jacente. »
Améliorer la visibilité dans les plateformes SIEM, les environnements cloud, les journaux archivés et les autres outils de sécurité permet aux agents IA de raisonner à partir d’une vision plus complète de l’environnement, de réduire les angles morts et d’améliorer la qualité des opérations de sécurité automatisées.
Comment évaluer les agents IA avant la production
Les entreprises devraient évaluer les agents IA de la même manière qu’elles évalueraient un nouvel analyste de sécurité avant de l’autoriser à participer aux opérations de sécurité.
Leehealey recommande de vérifier que les agents produisent systématiquement les mêmes résultats à partir d’entrées identiques, qu’ils reconnaissent lorsqu’ils ne disposent pas d’informations suffisantes et qu’ils transmettent correctement les situations incertaines au lieu de deviner.
« Je suggère généralement de traiter un agent comme un nouvel analyste auquel vous ne faites pas encore confiance », a-t-il déclaré. « Laissez-le prendre des décisions sans lui donner la capacité d’agir, puis évaluez-le par rapport à votre équipe. Digne de confiance ne signifie pas impressionnant. Cela signifie prévisible. »
À mesure que les capacités de l’IA continuent de progresser, Leehealey s’attend à ce que les tâches L1 courantes et une grande partie du travail L2 actuel soient transférées aux agents IA, permettant aux analystes de se concentrer sur les investigations, la prise de décision, la gouvernance et les tâches de sécurité à plus forte valeur ajoutée.
Les entreprises ne se demandent plus si la sécurité agentique fera partie du SOC moderne.
Le défi consiste désormais à déployer les agents IA de manière responsable grâce à une gouvernance transparente, une visibilité complète sur les données, des workflows auditables et une augmentation mesurée de leur autonomie.
Les entreprises qui intègrent dès aujourd’hui la confiance à leur stratégie de sécurité agentique seront mieux placées pour se défendre contre des adversaires toujours plus équipés d’IA et opérant à la vitesse des machines.