Cisco Talos a découvert un implant malveillant Windows qui utilise des modèles d’IA commerciaux pour contribuer à décider de ce qu’il doit faire après avoir compromis un système.
Baptisé CLOSEDQUORUM, le logiciel malveillant demande à DeepSeek, Qwen, Mistral et Google Gemini de voter sur des actions comme le vol d’identifiants, la persistance et l’injection de code. Talos le décrit comme le premier implant Windows documenté publiquement, à sa connaissance, à utiliser ce type de processus décisionnel piloté par l’IA pour le commandement et le contrôle tactiques.
Talos n’a pas confirmé la présence de CLOSEDQUORUM dans des attaques réelles. L’échantillon distribué publiquement contient des clés d’API d’IA factices et un webhook Discord fictif ; les chercheurs ne l’ont donc pas observé fonctionner de bout en bout. L’analyse statique a confirmé la boucle décisionnelle, tandis que les versions de développement ont montré que les identifiants des fournisseurs pouvaient être intégrés au moment de la compilation.
Cette conception s’inscrit dans la montée en puissance plus large de l’IA au service d’activités d’intrusion réelles tout en conservant des comportements familiers sur les terminaux, que les défenseurs peuvent rechercher.
Comment CLOSEDQUORUM transforme les votes de l’IA en actions offensives
Cisco Talos a décrit CLOSEDQUORUM comme le premier implant Windows documenté publiquement, à sa connaissance, à utiliser ce modèle pour le commandement et le contrôle tactiques. L’exécutable Go de 16,4 Mo et 64 bits recueille des informations sur l’hôte et les transmet à quatre fournisseurs de LLM au maximum.
Chaque modèle choisit dans un menu fixe : steal, inject, persist, ou move.move, ce qui laisse trois actions exécutables. CLOSEDQUORUM exécute l’action qui obtient le plus de votes ; les modèles n’inventent pas de nouvelles techniques d’attaque.
Lorsque steal l’emporte, le logiciel malveillant extrait la mémoire de LSASS pour récupérer les identifiants Windows, collecte les mots de passe enregistrés dans Chrome, Edge et Firefox, et recherche les données des portefeuilles MetaMask, Exodus et Ethereum. Le logiciel malveillant récemment divulgué PEEP cible également les navigateurs Chromium pour le vol d’identifiants et le détournement de sessions.
CLOSEDQUORUM chiffre les données volées avec AES-256-GCM, les encode en Base64 et les transmet via un webhook Discord contrôlé par l’opérateur. Il prend également en charge l’injection de processus et la persistance au moyen de clés de registre Run, de tâches planifiées et d’abonnements permanents aux événements Windows Management Instrumentation.
La détection repose sur les comportements, pas uniquement sur le trafic d’IA
Les services d’IA commerciaux génèrent un trafic légitime ; les connexions aux fournisseurs de modèles constituent donc à elles seules de faibles indicateurs. Talos recommande de les corréler avec l’accès à LSASS, l’injection de processus, la persistance, les communications via des webhooks Discord et une activité à intervalles aléatoires de cinq à quinze minutes. Ce rythme peut réduire l’exposition aux analyses automatisées de courte durée, un problème plus vaste à mesure que les logiciels malveillants s’adaptent pour contourner les bacs à sable.
Les organisations peuvent renforcer la détection et la prévention grâce à plusieurs mesures :
- Restreindre l’exécution de code non fiable. Utilisez un contrôle des applications ou une liste d’autorisation pour limiter les systèmes aux applications et au code approuvés.
- Renforcer la protection des identifiants. Utilisez Credential Guard et la protection LSA sur les systèmes compatibles, réduisez les droits d’administrateur local et ne stockez pas les identifiants privilégiés dans les navigateurs des terminaux polyvalents.
- Contrôler le trafic sortant vers les services d’IA et Discord. Limitez l’accès aux applications approuvées et examinez les processus inattendus qui contactent plusieurs fournisseurs d’IA ou des webhooks Discord.
- Corréler les signaux des terminaux et du réseau. Recherchez les accès à LSASS, l’injection de processus, la persistance via WMI ou des tâches planifiées, le trafic d’API d’IA et les activités récurrentes toutes les cinq à quinze minutes.
- Surveiller la persistance et l’altération de la télémétrie. Déclenchez une alerte en cas de clés Run inhabituelles, d’abonnements WMI permanents, de tâches planifiées et de tentatives d’interférence avec Event Tracing for Windows.
- Tester les plans de réponse aux incidents liés au vol d’identifiants. Les exercices doivent couvrir l’isolation des terminaux, l’analyse de LSASS, la réinitialisation des identifiants ou la révocation des jetons, l’exposition des navigateurs et des portefeuilles, ainsi que les communications sortantes suspectes.
CLOSEDQUORUM a été découvert dans le cadre de la plateforme de recherche CAIRN de Talos. WIRED a rapporté que le chercheur Ryan Fetterman avait identifié une vingtaine d’exemples supplémentaires de logiciels malveillants intégrant l’IA lors du développement de CAIRN, même s’il ne faut pas supposer que ces échantillons fonctionnent de manière autonome comme CLOSEDQUORUM.
Cette découverte ne permet pas d’établir l’existence d’une campagne généralisée de logiciels malveillants autonomes. Elle montre que les services d’IA actuels peuvent prendre en charge une partie circonscrite de la prise de décision lors d’une attaque, tandis que l’accès aux identifiants, la persistance, l’injection de processus et l’exfiltration restent des points de détection observables
Vous voulez en savoir plus sur les conseils, astuces et techniques de formulation de requêtes pour l’IA ? Laissez-nous vous apprendre à parler à l’IA gratuitement ! Suivez notre cours de six minutes à The Neuron Academy et découvrez quelques méthodes simples pour rédiger de meilleures requêtes et obtenir des résultats plus utiles avec l’IA, ou consultez gratuitement notre autre cours d’IA pendant sept jours. Découvrez toutes les leçons ici →.