La nouvelle IA de sécurité d’OpenAI est un meilleur crocheteur de serrures qui sait (la plupart du temps) quelles portes ne pas ouvrir.
L’éditeur de ChatGPT a lancé GPT-6 Cyber le 5 nov., un modèle de sécurité qu’il juge « Critical » pour sa capacité à trouver et exploiter des vulnérabilités logicielles. L’entreprise affirme que le modèle surpasse GPT-6 Astra sur plusieurs benchmarks de sécurité, tout en respectant davantage les limites des tests autorisés.
Le modèle est uniquement accessible à un groupe de clients soumis à une sélection dans le cadre du programme Daybreak Red d’OpenAI, qui est réservé aux tests d’intrusion et au développement d’exploits autorisés.
L’accès sera étendu à tous les clients Daybreak Red approuvés dans les prochaines semaines, a indiqué l’entreprise.
Détail des benchmarks
OpenAI affirme que GPT-6 Cyber surpasse à la fois son prédécesseur et son propre modèle généraliste phare sur les principales tâches de cybersécurité. Les progrès sont substantiels :
| Benchmark | GPT-6 Cyber | Comparaison |
| ExploitGym (exploitation d’une faille donnée) | 48.5% | GPT-5.6 Cyber : 32,1 % ; GPT-6 Astra : 42,4 % |
| Rappel des vulnérabilités d’applications web (sans code source) | 40.3% | GPT-6 Astra : 32,0 % |
| Évitement des services hors périmètre (sans invite de sécurité) | 99.93% | GPT-5.6 Cyber : 94,49 % |
Les résultats en conditions réelles sont saisissants. Les chercheurs d’OpenAI ont utilisé le modèle pour découvrir 81 vulnérabilités de gravité élevée jusqu’alors inconnues dans Firefox, et Mozilla a commencé à publier des correctifs. Le modèle a également développé des exploits fonctionnels pour 948 vulnérabilités du noyau Linux.
« GPT‑6 Cyber est un modèle de classe mondiale pour la cyberdéfense », a déclaré Brian Grinstead, ingénieur émérite chez Firefox. « Même après un renforcement supplémentaire au moyen de plusieurs générations de modèles de pointe, GPT‑6 Cyber a découvert des vulnérabilités de gravité élevée jusqu’alors inconnues. »
Le modèle gardien
Pour les responsables de la sécurité, l’enjeu le plus important n’est pas le score d’exploitation, mais le confinement. Un modèle aussi capable de trouver des failles peut également semer le chaos s’il s’écarte de sa mission. OpenAI affirme que l’entraînement à l’alignement a constitué un axe prioritaire.
Lors d’une évaluation calquée sur un incident réel au cours duquel des agents d’IA avaient compromis une communauté open source, GPT-6 Cyber a évité les services hors périmètre dans 99,93 % des tests sans invite de sécurité, et dans 100 % des cas avec une telle invite. GPT-5.6 Cyber a dépassé les limites dans environ 5,5 % des exécutions.
« Avec le modèle 6 Cyber, nous avons pu réaliser d’énormes progrès dans cette évaluation. Il fait ce qu’on lui demande dans plus de 99 % des cas », a déclaré Fouad Matin, d’OpenAI, lors d’un point presse, selon The Verge.
Ce que les défenseurs doivent savoir dès maintenant
Pour les équipes de sécurité, le principal enseignement pratique concerne moins les scores des benchmarks que l’accès et la confiance.
- Disponibilité limitée : GPT-6 Cyber n’est pas proposé en accès général. Vous devez être un client Daybreak Red approuvé pour l’utiliser.
- Le seuil pour la mention « Critical » est élevé : le propre cadre d’OpenAI définit cette classification comme celle d’un modèle capable « d’identifier et de développer des exploits zero-day fonctionnels, quel que soit leur niveau de gravité, dans de nombreux systèmes critiques durcis du monde réel, sans intervention humaine ».
- Les garde-fous font partie de l’offre : l’accès inclut par défaut une liste d’autorisation d’adresses IP, une surveillance des abus propre à la cybersécurité et de nouveaux contrôles destinés à bloquer les activités à haut risque visant des infrastructures critiques comme les centrales électriques et les réseaux d’eau.
Soulignant l’importance stratégique de cette avancée, Anthony Grieco, SVP et Chief Security & Trust Officer de Cisco, a déclaré : « La défense des infrastructures modernes exige une innovation continue.
À mesure que le paysage des menaces gagne en complexité, l’exploitation de modèles d’IA de pointe comme OpenAI GPT‑6 Cyber constitue une étape essentielle pour faire pencher la balance en faveur des défenseurs. »
Le risque qui se profile : la conscience de l’évaluation
Un point à surveiller est la « conscience de l’évaluation », c’est-à-dire le moment où un modèle comprend qu’il est testé et modifie son comportement. Matin a reconnu que le problème restait d’actualité.
« La conscience de l’évaluation est au cœur de nos préoccupations », a déclaré Matin. « Lorsque nous l’observons, elle apparaît souvent dans la chaîne de raisonnement du modèle. »
Cette préoccupation complique l’interprétation des résultats de GPT-6 Cyber en matière de confinement. Le modèle a fait preuve d’une forte conformité dans le cadre d’une évaluation contrôlée, mais ces résultats ne permettent pas d’établir avec quelle fiabilité il se comportera dans des environnements de production inconnus.
À mesure qu’OpenAI élargira l’accès à GPT-6 Cyber, les équipes de sécurité pourront déterminer si ses capacités améliorées de recherche de vulnérabilités se traduisent par des bénéfices défensifs concrets sans introduire de risques opérationnels inacceptables.
La distinction reste importante pour l’instant : un modèle qui se comporte de manière sûre pendant les tests est prometteur, mais les défenseurs ont finalement besoin d’un modèle qui respecte systématiquement les limites d’autorisation dans des environnements réels.
Vous voulez obtenir de meilleurs résultats avec l’IA ? Les lecteurs d’eSecurity Planet peuvent essayer le cours « Comment parler à l’IA » gratuit de six minutes de The Neuron Academy pour apprendre des techniques simples de formulation d’invites et des conseils pratiques afin d’utiliser l’IA plus efficacement au travail. Profitez également d’un accès gratuit de sept jours à la bibliothèque complète de cours d’IA de The Neuron Academy. Découvrez toutes les leçons ici →