Un thème m’a particulièrement marqué lors de Proofpoint Protect 2026. L’intelligence artificielle modifie la vitesse et l’ampleur des opérations de sécurité, mais elle ne réécrit pas nécessairement le mode opératoire des attaquants.
Daniel Blackford, vice-président de la recherche sur les menaces, m’a indiqué que Proofpoint observait toujours nombre des mêmes signaux de télémétrie et des mêmes problèmes de sécurité, malgré l’utilisation croissante de l’IA par les attaquants.
Sarah Sabotka, chercheuse principale sur les menaces, a souligné un autre effet de l’utilisation de l’IA par les attaquants.
Des acteurs malveillants disposant de compétences techniques légitimes peuvent utiliser l’IA pour étendre leurs capacités. Elle peut les aider à améliorer leurs campagnes d’hameçonnage, à rendre les contenus traduits plus convaincants et à cibler des victimes dans un plus grand nombre de régions géographiques.
Mais ces avantages ne rendent pas nécessairement les attaquants plus disciplinés. Leur sécurité opérationnelle peut toujours laisser à désirer, et l’IA peut parfois les rendre négligents.
Pour les défenseurs, le défi consiste à suivre le rythme, tandis que l’IA permet aux attaquants d’aller plus vite que les équipes de sécurité ne peuvent enquêter et réagir.
La sécurité doit comprendre l’intention
Lors de son discours d’ouverture, le PDG de Proofpoint, Sumit Dhawan, a insisté à plusieurs reprises sur les concepts « Defend with Intent » et « Access with Intent ».
L’idée est que les contrôles traditionnels des identités et des comportements pourraient devenir moins suffisants à mesure que les agents d’IA accèdent aux données et aux applications de l’entreprise.
Le système Agentic Data & AI Security System de Proofpoint tente de relier l’identité et les accès d’un agent à son comportement et à son intention. Le Proofpoint Knowledge Graph ajoute du contexte sur les données concernées. Ce système utilise également des agents pour détecter et examiner les menaces, avec des capacités de remédiation intégrées au processus.
C’est l’un des thèmes les plus importants que je retiens de cette conférence. L’architecture de sécurité doit aller au-delà de la question « Cette identité peut-elle effectuer cette action ? » pour se demander : « Cette action devrait-elle être effectuée dans ce contexte ? »
Les Semantic Business Policies de Proofpoint sont conçues autour de cette idée. Les entreprises peuvent définir des règles métier en langage naturel. La plateforme traduit ensuite ces exigences en contrôles d’exécution pour les employés et les agents autonomes.
Le contrôle d’accès fondé sur l’intention évalue l’activité des agents au regard de ces politiques au moment où les actions sont effectuées. Un agent d’IA peut par exemple avoir techniquement l’autorisation d’émettre un remboursement, alors que la politique métier de l’entreprise exige une approbation préalable.
La détection des menaces évolue dans la même direction
Proofpoint applique le principe de l’intention au-delà de la gouvernance de l’IA.
Son Agentic Collaboration Security System utilise la détection fondée sur l’intention parallèlement à l’examen autonome. Le système intègre également des fonctionnalités d’évaluation du risque utilisateur.
Les comptes légitimes compromis peuvent être difficiles à distinguer d’une activité normale. Un attaquant pourrait prendre le contrôle de la boîte aux lettres d’un fournisseur et étudier des mois de correspondance avant de répondre dans un fil existant. Le message qui en résulte peut ne contenir ni pièce jointe malveillante ni domaine suspect. Il peut également ne déclencher aucune anomalie comportementale évidente.
Le Nexus Intent-Based Detection Model de Proofpoint évalue plutôt ce qu’un message cherche à accomplir et vérifie si cet objectif est cohérent avec le contexte de la relation. Il prend également en compte les techniques utilisées pour atteindre cet objectif.
Yaniv Miron, directeur de la recherche sur les menaces, m’a indiqué qu’un scénario TeamFiltration pouvait atteindre les joyaux de la couronne d’une entreprise en environ 90 secondes sans déclencher de verrouillage de compte.
Miron a également évoqué l’injection indirecte de prompt. Dans un exemple, une attaque a utilisé une invitation Google Calendar pour transmettre une charge utile d’injection indirecte de prompt, puis a modifié l’invitation afin d’effacer les traces de ce qui s’était produit. Il a décrit une grande partie de l’activité actuelle comme de l’expérimentation, mais s’attend à voir davantage d’attaques par injection indirecte de prompt dans la nature au cours des prochains mois.
Les risques liés à l’IA dépassent les cyberattaques
Un autre point marquant est venu de Ryan Kalember, directeur de la stratégie de Proofpoint. Il a déclaré qu’une grande partie des risques liés à l’IA actuellement observés par Proofpoint ne relevait pas du risque cyber traditionnel.
Il a évoqué des employés qui craignaient que l’IA ne remplace leur emploi et qui répétaient à un système d’IA que ses réponses étaient fausses dans le but de le saper.
La gouvernance de l’IA doit donc prendre en compte des risques qui dépassent les menaces de sécurité classiques, comme les logiciels malveillants ou le vol de données. Proofpoint indique que ses clients sont également confrontés à la fraude et aux usages interdits de l’IA. Le comportement des employés constitue une autre source de préoccupation, notamment lorsqu’il crée des problèmes réglementaires ou de conformité.
La gouvernance commence également par la connaissance des usages de l’IA. Les entreprises doivent avoir une visibilité sur les systèmes et les agents d’IA qui opèrent dans leur environnement, ainsi que sur ce à quoi ces systèmes peuvent accéder. Elles doivent aussi comprendre quels processus métier reposent sur eux.
L’autonomie doit toujours reposer sur une confiance mesurable
L’utilisation d’agents nécessite de repenser la confiance. J’ai demandé à Daniel Rapp, directeur de l’IA et des données chez Proofpoint, comment l’entreprise savait quand transférer la confiance d’un humain à un agent. Il m’a répondu que Proofpoint évaluait les agents en fonction de leurs performances prédictives et opérationnelles.
Proofpoint compare les agents aux humains à l’aide de métriques telles que le temps unitaire et les faux positifs. L’entreprise évalue également les faux négatifs avant de transférer des responsabilités de sécurité à des systèmes autonomes.
Cette évaluation aide à déterminer où l’automatisation est pertinente, plutôt que de supposer qu’une tâche doit être automatisée simplement parce qu’un agent est capable de l’effectuer. L’architecture de Proofpoint prend toujours en charge la supervision humaine, tandis que les décisions lourdes de conséquences peuvent nécessiter une approbation humaine.
Ce que je retiens principalement de Protect 2026, c’est que la sécurité de l’IA consiste de moins en moins à ajouter un produit de sécurité supplémentaire et de plus en plus à repenser la manière dont les entreprises prennent leurs décisions de sécurité. À mesure que les agents bénéficient d’un accès accru et que les attaquants opèrent plus vite, les signaux liés aux identités et aux comportements restent importants, mais pourraient ne plus suffire.
La prochaine phase de la sécurité des entreprises dépendra de plus en plus de la compréhension de ce qu’un agent cherche à faire et de la pertinence de cette action dans le contexte présent.
Les équipes de sécurité devront également déterminer si l’agent devrait disposer des accès nécessaires pour mener cette action et si celle-ci est appropriée, même lorsque l’agent est techniquement autorisé à l’effectuer.
Cela fait de la gouvernance de l’IA agentique un élément important pour déterminer le degré d’autonomie que les entreprises sont prêtes à accorder à ces systèmes.