OpenAI a récemment pris des mesures contre des cybercriminels qui exploitaient sa plateforme ChatGPT pour faciliter des cyberattaques.
L’entreprise a annoncé avoir démantelé trois opérations de piratage coordonnées en provenance de Russie, de Corée du Nord et de Chine, qui utilisaient le chatbot à des fins malveillantes, notamment pour créer des logiciels malveillants et mener des campagnes d’hameçonnage.
« Ces comptes semblent être affiliés à des groupes criminels russophones, car nous les avons vus publier des preuves de leurs activités dans un canal Telegram dédié à ces acteurs », a déclaré OpenAI dans sa mise à jour d’octobre 2025.
Le côté obscur de l’IA générative
Cette découverte met en évidence le risque de double usage des grands modèles de langage (LLM) comme ChatGPT et d’autres outils puissants, qui peuvent être exploités aussi bien pour améliorer légitimement la productivité que pour commettre des cybercrimes.
Le détournement de l’IA générative pour développer des logiciels malveillants, mener des campagnes d’ingénierie sociale, et voler des informations est une préoccupation croissante pour les équipes de sécurité et les responsables politiques.
Les hackers étatiques s’emparent des outils d’IA
Le premier groupe démantelé était un acteur russophone qui développait un cheval de Troie d’accès à distance (RAT) et un voleur d’identifiants.
Bien que ChatGPT ait refusé de générer du code explicitement malveillant, l’acteur l’a utilisé pour créer des extraits de code modulaires — comme des scripts d’obfuscation et des routines d’exfiltration de données — qui ont ensuite été combinés pour former un logiciel malveillant fonctionnel.
Un groupe nord-coréen, qui serait lié à une campagne identifiée par Trellix en août 2025, a utilisé ChatGPT pour soutenir le développement de logiciels malveillants et d’infrastructures de commande et de contrôle (C2).
Ces acteurs ont expérimenté des configurations Windows et macOS, des modèles d’hameçonnage et des techniques d’interception d’API pour cibler des entités diplomatiques et gouvernementales.
Le troisième groupe, associé au groupe chinois UNK_DropPitch, a exploité ChatGPT pour rédiger des contenus d’hameçonnage multilingues et développer des portes dérobées visant le secteur taïwanais des semi-conducteurs. Selon OpenAI, ce groupe était « techniquement compétent, mais peu sophistiqué ».
L’IA dope les vieilles tactiques d’attaque
Chaque acteur cherchait à utiliser ChatGPT pour accélérer des processus d’attaque existants plutôt que pour inventer de nouvelles capacités offensives.
Les opérateurs russes ont itéré sur leur code au cours de plusieurs sessions ChatGPT afin d’affiner les fonctionnalités de leur RAT. Les hackers nord-coréens ont utilisé l’IA pour simuler des leurres d’hameçonnage et automatiser les scripts de déploiement de logiciels malveillants.
De leur côté, les comptes liés à la Chine ont généré des messages d’hameçonnage en anglais, en chinois et en japonais, et recherché des moyens d’automatiser l’exécution à distance via des canaux HTTPS.
En dehors de ces trois grands groupes, OpenAI a également identifié de petits réseaux au Cambodge, au Myanmar et au Nigeria qui tentaient d’utiliser ChatGPT pour des escroqueries en ligne et des campagnes d’influence.
Certains comptes liés à des opérations chinoises soutenues par l’État auraient tenté d’analyser des données issues des réseaux sociaux et de générer des contenus de propagande sur les minorités ethniques et les questions géopolitiques.
Réduire le risque de détournement de l’IA
Les mesures prises par OpenAI comprenaient la suspension des comptes fautifs, le renforcement des systèmes de surveillance et le partage des conclusions avec des partenaires de sécurité.
L’entreprise a réaffirmé que ses LLM sont conçus avec plusieurs niveaux de protection pour bloquer les requêtes malveillantes, même si des acteurs persistants tentent parfois de contourner ces restrictions en générant des fragments de code.
Pour réduire l’exposition aux menaces pilotées par l’IA et renforcer leur posture de sécurité globale, les organisations devraient mettre en œuvre les mesures suivantes :
- Surveiller et détecter les menaces : Suivre les indicateurs de compromission (IOC), les RAT et les attaques pilotées par l’IA à l’aide d’outils EDR et SIEM.
- Imposer des contrôles d’accès: Appliquer le principe du moindre privilège, l’authentification multifacteur (MFA) et la segmentation du réseau pour limiter les déplacements latéraux.
- Renforcer les systèmes: Sécuriser le développement et les environnements des terminaux, établir une liste d’autorisation pour les applications et mettre à jour les dépendances.
- Encadrer l’utilisation de l’IA: Définir des politiques d’utilisation de l’IA, surveiller l’activité et journaliser les requêtes à des fins de traçabilité.
- Former les employés : Sensibiliser le personnel à la détection des messages d’hameçonnage suspects.
- Collaborer et tester: Partager les renseignements sur les menaces et réaliser des exercices d’équipe rouge et de réponse aux incidents axés sur l’IA.
Le rapport d’OpenAI montre comment les acteurs malveillants « greffent l’IA sur leurs anciennes méthodes » pour aller plus vite, pas nécessairement pour innover.
À mesure que les capacités de l’IA générative s’intègrent dans tous les secteurs, les défenseurs doivent partir du principe que leurs adversaires utiliseront des outils similaires pour la reconnaissance, l’assistance au développement et la manipulation psychologique.
Alors que les attaquants se tournent de plus en plus vers l’IA pour tromper et manipuler, les outils de détection des deepfakes sont devenus une ligne de défense essentielle.