Plus de 35 000 applications créées avec le générateur d’applications d’IA de Grok pouvaient être ouvertes sans se connecter, selon une nouvelle étude de sécurité.
La société de cybersécurité Claroc a rapporté le 10 novembre que certains projets contenaient des informations commerciales confidentielles et des dossiers personnels. Ces résultats soulèvent des inquiétudes quant aux organisations qui s’appuient sur des applications créées par l’IA pour gérer leurs données internes.
L’enquête met en évidence deux failles de sécurité potentielles : des applications publiées avec des liens accessibles au public et des contrôles d’accès insuffisants susceptibles de laisser les informations stockées exposées.
Des fichiers confidentiels et des dossiers de patients sont apparus dans des applications publiées
L’enquête de Claroc a identifié 24 applications accessibles créées par des employés de SpaceXSI, anciennement xAI, et de X. Des informations internes appartenant à 30 autres organisations identifiables ont également été découvertes, dont six entreprises du classement Fortune 500.
Les résultats précis comprenaient les éléments suivants :
- Employés de SpaceXSI et de X. Les applications contenaient un plan confidentiel d’intégration des employés et une carte des secteurs commerciaux couvrant 594 comptes. Des propositions publicitaires étaient également visibles, dont une marquée comme confidentielle pour une agence fédérale américaine.
- Organisations de santé. L’application d’un groupe hospitalier contenait un annuaire consultable de plus de 3 500 employés, tandis qu’une autre révélait les informations médicales d’un patient en soins intensifs.
- Sous-traitants. Une application de feuilles de temps exposait 18 comptes d’employés dont les mots de passe étaient stockés en clair, y compris des identifiants administrateur.
La plupart des projets examinés étaient des jeux ordinaires ou des utilitaires simples. Claroc estime qu’environ un sur dix contenait des informations commerciales internes ou personnelles, tandis qu’environ 2 % renfermaient des éléments évalués comme présentant une gravité élevée ou critique.
Les chercheurs ont utilisé un filtrage automatisé et un examen manuel, mais n’ont pas établi si des acteurs malveillants avaient obtenu les données.
Des liens publics et des contrôles d’accès faibles ont exposé des failles de sécurité
La fonctionnalité de publication de Grok attribue à chaque application une adresse grok.me. Les chercheurs ont découvert ces liens grâce à des enregistrements DNS passifs, ce qui les rendait accessibles à toute personne trouvant les URL. Dans le compte de test payant de Claroc, l’option « Toute personne disposant du lien » était présélectionnée sur l’écran de publication, même si les créateurs devaient toujours confirmer la publication.
Des tests distincts portant sur deux applications créées par les chercheurs ont révélé d’autres faiblesses. L’une ne disposait d’aucune protection par connexion, ce qui permettait aux visiteurs d’ajouter des enregistrements visibles par d’autres personnes.
Une autre utilisait l’authentification Google, mais ne vérifiait pas l’appartenance à l’équipe avant d’accorder l’accès, permettant à un compte non invité d’afficher, de modifier ou de supprimer des dossiers clients. Les chercheurs ont démontré ces défaillances des contrôles d’accès uniquement dans leurs propres applications et n’ont pas modifié de données de tiers.
Claroc a informé SpaceXSI le 8 novembre et publié ses résultats deux jours plus tard. L’entreprise a déclaré que la publication exigeait une action explicite de l’utilisateur et que les comptes des employés étaient privés par défaut.
Les chercheurs ont maintenu que le partage public était présélectionné dans leur compte de test. Les 24 applications créées par des employés ont ensuite été supprimées, tandis que les projets exposés d’autres utilisateurs étaient toujours en ligne au moment de la publication du rapport.
Les outils d’IA créés par les employés peuvent échapper au contrôle de sécurité
Les générateurs d’applications d’IA permettent aux employés de publier des outils professionnels fonctionnels sans passer par les revues logicielles traditionnelles. Pour les RSSI, le problème qui en découle est de savoir quelles applications peuvent contenir des informations confidentielles sans apparaître dans l’inventaire des logiciels approuvés de l’organisation.
Contrairement aux interactions ordinaires avec un chatbot, les applications d’IA fantôme peuvent rester en ligne et continuer à stocker des dossiers de l’entreprise.
Même les applications dotées d’écrans de connexion peuvent ne pas protéger les informations si leurs autorisations sont mal configurées. Les équipes de sécurité qui évaluent ces outils doivent vérifier si des comptes non invités peuvent récupérer ou modifier des enregistrements, et pas seulement si les utilisateurs peuvent se connecter.
Les tests de sécurité des applications web peuvent aider à identifier ces défaillances avant que des logiciels créés par les employés ne traitent des informations sensibles.
Les organisations dont les dossiers sont apparus dans l’enquête doivent se préoccuper plus immédiatement de ce qui était accessible au public et de la possibilité que les identifiants exposés soient toujours utilisables. Restreindre l’accès peut empêcher toute divulgation supplémentaire, mais cela ne permet pas d’établir si des visiteurs précédents ont obtenu des copies.
En l’absence de preuves d’une exploitation malveillante, l’exposition avérée nécessite néanmoins une enquête proportionnée à la sensibilité des informations concernées.
Autres actualités de cybersécurité : Anyday Security a lancé une plateforme gratuite dopée à l’IA qui aurait généré plus de 200 exploits fonctionnels pour aider les organisations à tester leurs défenses.