De nouveaux outils de cybercriminalité dopés à l’IA laissent penser que les capacités des outils de piratage basés sur l’IA évoluent rapidement.
Le créateur de FraudGPT, et potentiellement aussi de WormGPT, développe activement la prochaine génération de chatbots de cybercriminalité, dotés de capacités bien plus avancées.
Daniel Kelley, ancien hacker black hat reconverti et chercheur au sein de l’entreprise de cybersécurité SlashNext, s’est fait passer pour un acheteur potentiel et a contacté l’individu — « CanadianKingpin12 » — qui fait la promotion de FraudGPT. Au cours de leur échange, CanadianKingpin12 a mentionné DarkBART et DarkBERT, laissant entendre que ces nouveaux outils pourraient exporter du code et partager des graphiques ainsi que du texte grâce à l’intégration de Google Lens, entre autres fonctionnalités.
Dans son billet de blog, Kelley a partagé une vidéo de CanadianKingpin12 qui laisse penser que DarkBERT ira bien au-delà des capacités d’ingénierie sociale des outils précédents, avec de nouvelles « capacités préoccupantes ». Ces capacités comprennent notamment la possibilité de :
- Exploiter les vulnérabilités des systèmes informatiques, notamment des infrastructures critiques
- Permettre la création et la distribution de logiciels malveillants, notamment de rançongiciels
- Fournir aux utilisateurs finaux des informations sur les vulnérabilités zero-day
« Bien qu’il soit difficile d’évaluer avec précision l’impact réel de ces capacités, il est raisonnable de s’attendre à ce qu’elles abaissent les barrières pour les cybercriminels en devenir, a averti Kelley. De plus, la progression rapide de WormGPT à FraudGPT, puis à “DarkBERT” en moins d’un mois, souligne l’influence considérable de l’IA malveillante sur le paysage de la cybersécurité et de la cybercriminalité. »
À lire aussi : Les problèmes de sécurité et de confidentialité de ChatGPT persistent dans GPT-4
Le potentiel croissant de la cybercriminalité liée à l’IA
Kelley, qui avait également révélé l’existence de WormGPT début juillet, a indiqué que FraudGPT partage les mêmes capacités fondamentales que WormGPT et pourrait avoir été développé par les mêmes personnes, mais FraudGPT pourrait être utilisé de manière encore plus malveillante. Il convient de noter que, sur certains forums de hackers, des fils de discussion consacrés à FraudGPT ont été supprimés en raison de l’orientation résolument axée sur la fraude de sa promotion ; CanadianKingpin12 communique donc désormais via Telegram.
Parmi les nouveaux bots d’IA de CanadianKingpin12, DarkBART est décrit comme une version obscure de Google Bard, tandis que DarkBERT serait basé sur le modèle de langage préentraîné de S2W baptisé « DarkBERT » et aurait peut-être été obtenu sous de faux prétextes à des fins de recherche, a avancé Kelley.
La version malveillante de DarkBERT semble avoir été conçue délibérément pour permettre la cybercriminalité, ce qui suscite des inquiétudes quant à l’exploitation potentielle du DarkBERT de S2W, alors même que les développeurs de FraudGPT le revendiquent abusivement comme leur propre création.
Kelley a indiqué que les développeurs de ces outils pourraient bientôt proposer un accès par interface de programmation d’application (API). « Cette avancée simplifiera considérablement l’intégration de ces outils aux flux de travail et au code des cybercriminels, a-t-il écrit. Une telle évolution soulève d’importantes inquiétudes quant à ses conséquences potentielles, car les cas d’usage de ce type de technologie deviendront probablement de plus en plus complexes. »
L’émergence de ces nouveaux chatbots malveillants laisse entrevoir une augmentation rapide du niveau de sophistication des cybermenaces liées à l’IA. À mesure que ces outils gagneront en popularité et en facilité d’utilisation, les cybercriminels potentiels pourront plus facilement mener des attaques telles que la compromission de messageries professionnelles (BEC) et d’autres activités illicites, abaissant ainsi le seuil nécessaire pour lancer des cyberattaques sophistiquées.
À lire aussi : L’IA sauvera la sécurité — et supprimera des emplois
Se défendre contre la cybercriminalité liée à l’IA
La lutte contre la cybercriminalité pilotée par l’IA exigera une vigilance toujours accrue en matière de défenses de cybersécurité, notamment la formation des employés pour résister aux leurres d’hameçonnage et d’ingénierie sociale ; les passerelles de messagerie et l’authentification pour sécuriser les e-mails ; ainsi que l’application de correctifs aux vulnérabilités les plus susceptibles d’être exploitées. Aucune de ces bonnes pratiques de sécurité n’est nouvelle, mais des adversaires toujours plus sophistiqués rendent plus important que jamais le fait de les appliquer correctement.
À lire ensuite : Comment améliorer la sécurité des e-mails pour les entreprises et organisations