Des hackers soupçonnés d’être liés à la Chine font tourner des modèles d’IA dans des environnements cloud qu’ils avaient déjà piratés.
Le Google Threat Intelligence Group soupçonne UNC6508, un groupe d’espionnage lié à la Chine qui a ciblé des organismes universitaires, médicaux et de recherche militaire en Amérique du Nord, d’être à l’origine de cette activité.
Des enquêtes antérieures avaient établi que le même groupe conservait l’accès à certains réseaux de recherche pendant plus d’un an.
Un modèle d’IA local gardait la charge de travail dans le cloud de la victime
Selon le GTIG, les opérateurs soupçonnés ont déployé un modèle d’IA à poids ouverts directement dans des environnements cloud compromis, d’après les dernières recherches du GTIG sur les menaces liées à l’IA. En clair, ils ont installé un modèle téléchargeable capable de fonctionner sur les ressources informatiques de la victime, plutôt que d’envoyer des requêtes à un service d’IA externe.
Le fait de le faire fonctionner localement a permis aux attaquants d’utiliser une puissance de calcul qui ne leur appartenait pas et d’échapper à une partie de la surveillance disponible via les services d’IA commerciaux. La détection reposait alors davantage sur les propres mesures de sécurité cloud de la victime.
Selon les chercheurs, UNC6508 a également ciblé des travaux de recherche propriétaires sur l’IA, reliant cette activité cloud à l’intérêt plus large du groupe pour l’IA.
Un accès à long terme révèle le mode opératoire d’UNC6508
Une enquête antérieure de Google sur UNC6508 a retracé jusqu’en 2023 les attaques visant des organismes de recherche nord-américains. Les opérateurs ont ciblé à plusieurs reprises des systèmes REDCap utilisés pour la recherche médicale et scientifique et, lors d’une compromission documentée, ont installé un logiciel malveillant personnalisé baptisé INFINITERED afin de dérober des identifiants et de survivre aux mises à niveau logicielles.
Certaines intrusions sont restées indétectées pendant plus d’un an. Identifiants dérobés ont ensuite donné aux attaquants accès à un compte d’administrateur d’entreprise, dont ils ont détourné les règles légitimes de messagerie pour transférer discrètement certains messages vers un compte contrôlé par les attaquants.
Les attaquants ont également fait transiter leur activité par une infrastructure basée aux États-Unis afin de rendre le trafic malveillant plus difficile à distinguer d’un usage normal.
Google a ensuite neutralisé l’infrastructure liée à la campagne et informé les organismes concernés.
Les équipes chargées de la sécurité de la recherche doivent considérer tout usage inexpliqué du cloud comme suspect
Pour les universités, les centres de recherche médicale et les organismes similaires, toute activité cloud inhabituelle doit être examinée comme un problème de sécurité potentiel, et pas seulement comme un problème de coûts. Les environnements de recherche consomment déjà d’importantes ressources informatiques ; des charges de travail d’IA non autorisées peuvent donc passer plus facilement inaperçues.
- Attribuez toute ressource de calcul inhabituelle à un propriétaire connu. Une utilisation soudaine de GPU, de nouveaux serveurs cloud ou des hausses de coûts inattendues doivent être rattachées à un projet et à un utilisateur approuvés. Toute activité inexpliquée mérite un examen de sécurité.
- Examinez les modifications effectuées par un compte compromis. Réinitialiser un mot de passe ne supprime pas les charges de travail ni les paramètres créés avant la sécurisation du compte. Vérifiez les nouveaux serveurs, les tâches planifiées, les modifications apportées par un administrateur et les règles de transfert d’e-mails inhabituelles.
- Ne vous limitez pas aux alertes de connexion. Des identifiants valides peuvent donner à l’activité des attaquants une apparence légitime. la surveillance de la sécurité des charges de travail cloud peut aider à identifier les activités qui sortent de l’usage normal, même lorsque l’authentification semble habituelle.
- Confinez l’accès avant de supprimer les ressources des attaquants. Révoquez les sessions actives et renouvelez les identifiants exposés avant le nettoyage. De solides mesures de contrôle des accès peuvent réduire le risque de réutilisation des identités compromises.
La découverte d’identifiants dérobés doit élargir l’enquête. Les équipes de sécurité doivent déterminer si des informations ont été consultées, si des paramètres ont été modifiés ou si des ressources cloud ont été utilisées après la compromission.
À lire aussi : une exploitation de WeChat assistée par IA pourrait se propager d’un contact compromis à un autre, exposant potentiellement une plateforme comptant plus d’un milliard d’utilisateurs.