Alors que les organisations adoptent rapidement l’intelligence artificielle (IA), les équipes de sécurité s’efforcent de comprendre comment les modèles d’IA de pointe pourraient redéfinir le risque cyber dans les entreprises.
Plutôt que de s’appuyer sur des scénarios théoriques, Zscaler a consacré 90 jours à utiliser des modèles d’IA de pointe d’Anthropic et d’OpenAI afin d’évaluer plusieurs dizaines d’environnements d’entreprise réels dans une perspective offensive.
Les résultats suggèrent que l’IA accélère l’exploitation des failles de sécurité existantes plutôt qu’elle n’en crée de totalement nouvelles.
Selon Zscaler, toutes les organisations évaluées présentaient des vulnérabilités critiques susceptibles d’être exploitées par des attaquants utilisant l’IA.
L’entreprise a indiqué que 100 % des organisations étaient exposées à une IA non gouvernée, que 90 % exposaient encore des appliances VPN à Internet et que 53 % conservaient des actifs accessibles depuis Internet présentant des vulnérabilités répertoriées dans le catalogue CISA KEV.
Lors des tests offensifs, le délai médian avant le premier incident de sécurité critique n’était que de 16 minutes, tandis que 90 % des environnements étaient compromis en moins de 90 minutes.
- Principaux enseignements des conclusions de Zscaler sur les lacunes en matière de sécurité de l’IA
- L’IA accélère l’exploitation des failles existantes
- Les expositions héritées deviennent des risques plus importants avec l’IA
- La mise en œuvre du Zero Trust distingue les organisations résilientes
- La gouvernance doit suivre le rythme de l’adoption de l’IA
Principaux enseignements des conclusions de Zscaler sur les lacunes en matière de sécurité de l’IA
- 100 % des organisations évaluées étaient exposées à une IA non gouvernée, 90 % exposaient des appliances VPN à Internet et 53 % possédaient des vulnérabilités connues exploitées par CISA (KEV) accessibles depuis Internet.
- Lors des tests offensifs, le délai médian avant le premier incident de sécurité critique était de 16 minutes, tandis que 90 % des environnements étaient compromis en moins de 90 minutes.
- L’IA de pointe a rapidement combiné des failles de sécurité existantes pour former des chaînes d’attaque complètes, plutôt que de s’appuyer sur de nouveaux exploits zero-day.
- Les organisations dotées d’architectures Zero Trust plus robustes, d’une inspection TLS et d’une surveillance continue ont fait preuve d’une résilience nettement supérieure.
- Les RSSI doivent donner la priorité à une gouvernance continue de l’IA, à la gestion de l’exposition, à la sécurité des identités et à des exercices réguliers de red teaming de l’IA pour suivre le rythme des menaces alimentées par l’IA.
L’IA accélère l’exploitation des failles existantes
Deepen Desai, directeur de la sécurité et vice-président exécutif de la recherche et du développement chez Zscaler, a déclaré que les organisations exposaient des services d’IA sans leur appliquer les mêmes contrôles de sécurité que ceux exigés pour les autres applications d’entreprise.
« On dirait que des outils d’IA sont mis en ligne sans sécurité adéquate en amont : pas de connexion, pas de vérification d’identité, pas de véritable supervision », a déclaré Desai dans un e-mail adressé à eSecurityPlanet.
Il a ajouté : « Cela arrive si souvent parce que les entreprises se dépêchent de déployer l’IA et que les équipes de sécurité sont généralement intégrées trop tard pour suivre le rythme. »
Plutôt que de s’appuyer sur des vulnérabilités zero-day sophistiquées, les modèles d’IA de pointe identifient rapidement et combinent plusieurs failles à faible risque pour former des chaînes d’attaque efficaces.
« Ce n’est généralement pas que les outils de sécurité sont totalement absents — c’est que trop de brèches restent ouvertes et permettent aux attaquants de progresser rapidement », a expliqué Desai. « L’IA peut désormais repérer rapidement les points faibles, mais surtout, elle peut enchaîner de petites failles qui, prises isolément, ne semblent pas critiques. »
Il a comparé ce processus à quelqu’un qui entrerait dans un bureau sans crocheter une seule serrure, en profitant de l’ouverture d’une porte par une autre personne, en trouvant un badge sans surveillance à un autre endroit et en se déplaçant dans des zones mal surveillées.
Pris individuellement, aucun de ces problèmes ne semble catastrophique, mais ensemble, ils permettent une intrusion réussie. L’IA exécute ce processus en continu et à la vitesse des machines.
Les expositions héritées deviennent des risques plus importants avec l’IA
L’étude souligne également à quel point des problèmes de sécurité anciens deviennent nettement plus dangereux lorsque l’IA automatise la reconnaissance et l’exploitation.
Desai a comparé cette évolution à une augmentation du nombre de virus biologiques : la biologie n’a pas changé, mais la vitesse et l’ampleur de l’exposition ont augmenté.
De même, les vulnérabilités de sécurité sous-jacentes restent identiques, tandis que l’IA accélère considérablement la vitesse à laquelle les attaquants peuvent les exploiter.
« Les faiblesses héritées, comme les appliances exposées, ne sont pas nouvelles », a-t-il déclaré. « Ce qui est nouveau, c’est que les attaquants utilisant l’IA peuvent les identifier, les tester et les exploiter ensemble à une vitesse qui change complètement la nature du risque. »
L’identité s’est également imposée comme l’un des principaux vecteurs d’attaque lors des évaluations. Selon Desai, les modèles d’IA de pointe ont systématiquement ciblé les identifiants compromis et les autorisations excessives accordées aux utilisateurs.
« Dans plus de 90 % des organisations, un seul identifiant volé ouvre l’accès à des milliers d’actifs ou d’applications en raison du niveau de maturité de la segmentation », a-t-il déclaré.
La mise en œuvre du Zero Trust distingue les organisations résilientes
Une conclusion qui a surpris les chercheurs de Zscaler est que de nombreuses organisations pensaient avoir déjà traité les contrôles de sécurité fondamentaux, alors que les tests pilotés par l’IA révélaient à plusieurs reprises des failles exploitables.
« La plus grande surprise est l’ampleur de l’exposition au niveau des fondamentaux : politiques d’inspection, réduction de la surface d’attaque externe, mouvements latéraux », a déclaré Desai. « Ce ne sont pas de nouveaux concepts, mais l’IA a considérablement relevé le niveau d’exigence pour les mettre correctement en œuvre. »
Les organisations qui ont fait preuve d’une meilleure résilience ne déployaient pas nécessairement des technologies entièrement nouvelles.
Elles appliquaient plutôt systématiquement des pratiques de sécurité établies, notamment l’inspection de la sécurité de la couche transport (TLS), des architectures Zero Trust, de meilleures capacités de détection et une surveillance renforcée des activités suspectes.
« Ce qui est encourageant, c’est que de nombreuses entreprises peuvent le faire dès aujourd’hui avec les outils dont elles disposent déjà », a déclaré Desai.
La gouvernance doit suivre le rythme de l’adoption de l’IA
Alors que les déploiements d’IA continuent de s’étendre à l’ensemble des fonctions de l’entreprise, Desai recommande aux RSSI de commencer par établir une visibilité sur les endroits où les services d’IA sont exécutés, avant de renforcer les contrôles d’identité et de réduire l’exposition inutile à Internet.
Il a également insisté sur la nécessité d’une gouvernance continue reposant sur la surveillance permanente de l’exposition, le red teaming de l’IA, une segmentation renforcée, la prévention des pertes de données, des technologies de déception et des plans de reprise après incident testés.
Pour l’avenir, Desai estime que les organisations devraient réduire leur horizon de planification, en passant des années aux semaines, car les capacités de l’IA progressent très rapidement.
« J’encouragerais les organisations à raisonner en termes de 12 à 24 semaines plutôt qu’en mois », a-t-il déclaré. « Les acteurs malveillants auront accès aux modèles d’IA de pointe, et ce n’est plus un problème théorique. »
Pour les responsables de la sécurité, il recommande de se concentrer sur deux questions : à quoi ressemble l’organisation du point de vue d’un adversaire utilisant l’IA, et jusqu’où un attaquant pourrait-il progresser si un seul actif ou une seule identité exposé à Internet était compromis ?
Les organisations incapables de répondre avec certitude à ces deux questions peuvent présenter d’importantes lacunes architecturales et opérationnelles que les attaquants utilisant l’IA peuvent rapidement exploiter.