Lors d’un concours d’audit de sécurité organisé à l’occasion de la mise à niveau Fusaka d’Ethereum, Octane AI a identifié une vulnérabilité de gravité élevée et reçu une récompense de 50 000 dollars US. Cette découverte a constitué un premier exemple de collaboration entre une IA et des chercheurs humains en sécurité pour identifier des failles dans des logiciels utilisés en conditions réelles.
Anthropic a ouvert l’accès en bêta publique à Mythos 5, son modèle spécialisé en cybersécurité, pour les clients Claude Enterprise éligibles. Le modèle est accessible via le module Claude Security, sa consommation étant décomptée de l’allocation de jetons existante de l’organisation. Les clients éligibles doivent connecter le module aux dépôts qu’ils autorisent Claude à évaluer.
Davantage d’accès pour les défenseurs
Anthropic a lancé les modèles de la famille Mythos en avril dernier auprès de quelques organisations sélectionnées, comme Microsoft, JPMorgan Chase et la Linux Foundation, dans le cadre d’un programme baptisé Project Glasswing. Le déploiement initial était limité à un petit groupe d’organisations participantes, ce qui rendait cette fonctionnalité inaccessible à la plupart des clients d’entreprise.
Dans le cadre de ce déploiement élargi, les utilisateurs éligibles de Claude Enterprise peuvent demander au modèle d’évaluer un dépôt GitHub autorisé, de présenter les vulnérabilités potentielles et de recommander des correctifs que les développeurs pourront examiner.
Pour chaque faille de sécurité, Claude renvoie « une CWE (Common Weakness Enumeration), un niveau de confiance, une évaluation de la gravité et un correctif suggéré. »
L’approbation d’un humain est requise avant la mise en œuvre d’un correctif suggéré. Cette approche « avec humain dans la boucle » vise à garder les développeurs aux commandes et à réduire le risque d’appliquer un correctif incorrect ou incomplet.
De plus, le modèle Mythos ne fournit à l’utilisateur que certains résultats, comme la vulnérabilité ou le correctif. Si l’utilisateur tente de demander au modèle d’exécuter une attaque, comme une exfiltration de données, celui-ci rejettera la demande.
Cette protection garantit que les développeurs n’utilisent Mythos qu’à des fins légitimes.
Certains professionnels de la sécurité peuvent avoir des raisons légitimes d’utiliser le modèle pour des tests offensifs et défensifs, par exemple pour développer ou évaluer des outils de sécurité. Anthropic invite les professionnels éligibles qui ont besoin d’accéder à des fonctionnalités à double usage plus risquées à faire une demande dans le cadre de son Cyber Verification Program afin d’obtenir des garde-fous adaptés.
Les experts humains restent indispensables
L’un des principaux défis des audits de sécurité assistés par IA consiste à déterminer quelles découvertes sont réelles et exploitables. Une faiblesse signalée peut être un faux positif, ne pas être exploitable dans des conditions réelles ou présenter un risque trop faible pour justifier une remédiation immédiate.
Nikos Baxevanis, ingénieur en sécurité des protocoles à l’Ethereum Foundation, a déclaré : « La surprise, c’est de constater à quel point le travail consacré à leur découverte était faible, et à quel point il fallait ensuite distinguer les vraies failles de celles qui en avaient seulement l’apparence. »
Cela concernait une analyse de sécurité assistée par IA qu’il a menée le mois dernier avec l’équipe chargée du protocole pour découvrir des failles dans le logiciel des nœuds Ethereum.
Les capacités de ces nouveaux modèles de pointe ne peuvent pas être ignorées. Ils permettent déjà aux développeurs de découvrir des attaques zero-day, tout en dotant les défenseurs d’outils de pointe pour contrer les acteurs malveillants.
En plus de fournir des outils de pointe, Anthropic a indiqué mettre 35 millions de dollars US de crédits à la disposition des projets open source qui souhaitent accéder à des services de sécurité assistés par IA.
Pour les équipes de sécurité d’entreprise, Mythos 5 pourrait accélérer l’examen des dépôts et aider à hiérarchiser les faiblesses potentielles, mais ses résultats doivent être considérés comme des pistes plutôt que comme des verdicts définitifs. Les organisations auront toujours besoin de professionnels de la sécurité expérimentés pour valider l’exploitabilité, examiner les correctifs proposés et décider quelles découvertes justifient une remédiation.
En savoir plus : le Project Glasswing d’Anthropic annonce un possible tournant de la cybersécurité sous l’impulsion de l’IA explique comment le programme précédent de l’entreprise a testé la recherche de vulnérabilités assistée par IA avec un groupe limité de partenaires de sécurité.