Imaginez recevoir cette alerte : le fichier tableur d’un client a été importé dans un chatbot d’IA et un lien vers la conversation a été partagé en dehors de l’entreprise.
L’équipe de sécurité doit répondre à deux questions immédiates. Que peut voir le destinataire et peut-elle couper l’accès ? Les réponses dépendent de ce que la conversation affiche réellement et des personnes qui peuvent ouvrir le lien.
Ce scénario hypothétique illustre un problème de sécurité pour les organisations qui utilisent des outils d’IA. Importer des données d’entreprise dans un service externe ne signifie pas automatiquement que quelqu’un les a volées. Les équipes de sécurité doivent déterminer ce qui a été partagé, identifier les personnes susceptibles d’y accéder, contenir l’exposition et évaluer l’impact potentiel avant de décider de la réponse à apporter.
Première étape : établir quelles informations ont été exposées
L’ OWASP Top 10 for LLM Applications identifie la divulgation d’informations sensibles comme un risque de sécurité touchant les données personnelles, les identifiants et les informations commerciales confidentielles.
Avant de considérer une exposition présumée comme une violation avérée, les enquêteurs doivent établir ce que montrent les éléments de preuve disponibles.
Ce que la sécurité découvre: | Ce que cela confirme: | Ce qui reste inconnu: |
|---|---|---|
| Un employé a importé un fichier confidentiel dans un service d’IA | Les informations sont parvenues à un prestataire externe | La manière dont le prestataire a traité les données et la possibilité que d’autres personnes y aient accédé |
| Un lien vers une conversation partagée affiche des informations confidentielles | Les informations étaient accessibles en dehors du public auquel elles étaient destinées | Si une personne non autorisée les a consultées ou copiées |
| Des journaux fiables montrent un accès non autorisé | Quelqu’un a accédé aux informations sans autorisation | S’il a enregistré ou distribué des copies |
Les équipes de sécurité peuvent avoir une visibilité limitée sur ce que les employés importent dans des outils d’IA non approuvés. Cela fait de l’ IA fantôme une source potentielle d’exposition de données sensibles, même lorsque les employés n’ont aucune intention de mettre les informations de l’entreprise en danger.
Sept étapes pour enquêter sur une exposition de données d’IA et la contenir
Étape 1 : préserver les preuves avant de supprimer l’accès
Notez le nom de l’application d’IA, le compte concerné, l’URL partagée, les horodatages pertinents et le fichier touché. Capturez ce que le lien affiche et stockez les preuves dans un emplacement à accès restreint.
Les recommandations de NIST en matière de réponse aux incidents mettent l’accent sur une détection, une réponse et une reprise coordonnées. Les équipes de sécurité doivent documenter leurs conclusions et préserver les preuves nécessaires à l’enquête.
Si des informations confidentielles restent accessibles au public, recueillez rapidement les preuves essentielles et révoquez le lien. Ne retardez pas le confinement en menant une enquête interminable.
Étape 2 : retracer le cheminement des informations jusqu’à l’application d’IA
Examinez les journaux disponibles des terminaux, des navigateurs, des proxys, de la sécurité cloud et de la prévention des pertes de données (DLP) afin d’identifier qui a envoyé les informations et à quel moment.
Les recommandations de Microsoft concernant les enquêtes sur la sécurité des données expliquent comment les enquêteurs peuvent utiliser les éléments DLP des terminaux et les journaux d’audit pour examiner les fichiers concernés et l’activité des utilisateurs.
Si l’application d’IA se connecte aux systèmes de l’entreprise, vérifiez quels comptes et fichiers ces intégrations pouvaient atteindre. Les enquêteurs doivent également repérer les lacunes dans leurs données. Un journal montrant qu’un employé a consulté un site d’IA ne révèle pas nécessairement ce qu’il y a importé.
Étape 3 : vérifier qui pouvait accéder à la conversation
Examinez les autorisations du lien partagé et inspectez les informations visibles par les destinataires.
Les règles d’accès varient selon le prestataire et le type de compte. Par exemple, la documentation d’OpenAI explique que les personnes disposant d’un lien vers une conversation ChatGPT partagée depuis un compte personnel peuvent consulter son contenu partagé. Les espaces de travail gérés appliquent des restrictions de partage différentes.
Si un lien permet à des utilisateurs non autorisés de consulter des informations confidentielles, les données ont été exposées. Toutefois, l’existence du lien ne prouve pas à elle seule qu’une personne extérieure a ouvert ou téléchargé le contenu.
Étape 4 : contenir l’exposition et protéger les identifiants
Révoquez le lien partagé et limitez les accès inutiles à l’application d’IA concernée. Déconnectez les intégrations si elles créent un risque de sécurité permanent.
Si les informations exposées comprennent des mots de passe, des clés d’API ou des jetons d’accès, révoquez ou renouvelez rapidement ces identifiants. Vérifiez les comptes associés à la recherche d’une activité suspecte.
Supprimer une conversation ou désactiver un lien peut empêcher tout nouvel accès, mais ces mesures ne garantissent pas que les copies existantes ont disparu.
Étape 5 : contacter le prestataire d’IA au sujet du traitement des données
Demandez au prestataire s’il conserve les informations envoyées et comment il traite les demandes de suppression.
Demandez des précisions sur la conservation des données, les journaux d’accès disponibles et la question de savoir si les paramètres du compte autorisent le prestataire à utiliser le contenu envoyé pour améliorer ses modèles.
Documentez la réponse du prestataire ainsi que toute suppression ou restriction d’accès confirmée. Si le prestataire ne peut pas établir si d’autres personnes ont accédé aux informations ou les ont conservées, consignez cette incertitude.
Étape 6 : déterminer si une notification de violation est obligatoire
Faites intervenir les équipes juridiques, chargées de la protection de la vie privée et de la conformité lorsque les informations exposées comprennent des données personnelles, des dossiers clients ou des informations réglementées.
Les obligations de signalement dépendent du droit applicable, du type d’informations concernées et du préjudice potentiel pour les personnes touchées. Par exemple, l’ Information Commissioner’s Office du Royaume-Uni exige des organisations qu’elles signalent certaines violations de données personnelles sans retard indu et, lorsque cela est possible, dans les 72 heures suivant le moment où elles en ont pris connaissance.
Tout import non autorisé vers une application d’IA n’exige pas une notification aux autorités. Toutefois, les organisations doivent documenter leur évaluation et éviter de retarder un signalement obligatoire sous prétexte que l’enquête n’est pas terminée.
Étape 7 : renforcer les contrôles de sécurité et les tester
Examinez les applications d’IA que les employés peuvent utiliser et les informations qu’ils peuvent leur soumettre. Appliquez les règles de classification des données, limitez les intégrations inutiles et proposez des solutions approuvées.
Microsoft recommande des contrôles DLP qui empêchent le collage ou l’import d’informations sensibles dans des applications d’IA. Les équipes de sécurité doivent tester ces restrictions pour vérifier qu’elles fonctionnent comme prévu.
Même des contrôles bien établis peuvent échouer. Lors d’un incident antérieur, eSecurity Planet a signalé un bug de Microsoft 365 Copilot qui contournait les restrictions DLP et permettait à l’assistant de résumer des e-mails confidentiels malgré les protections existantes. Microsoft a déclaré que le problème ne donnait pas aux utilisateurs accès à des informations qu’ils n’étaient pas déjà autorisés à consulter.
Ce que les équipes de sécurité doivent confirmer avant de clore l’incident
Avant de clore une enquête, les équipes de sécurité doivent confirmer quelles informations ont quitté l’entreprise, qui pouvait y accéder, quelles mesures de confinement elles ont mises en œuvre et ce qui reste invérifié.
Le rapport final doit documenter les éventuelles demandes encore en attente auprès du prestataire, les identifiants concernés et les changements de sécurité mis en place pour éviter un nouvel incident.
L’absence de preuves montrant un accès non autorisé ne prouve pas que personne n’a consulté les informations. Les enquêteurs doivent distinguer les faits confirmés des questions non résolues, plutôt que de supposer que les données ont été volées ou totalement récupérées.
Supprimer une conversation partagée peut empêcher tout nouvel accès, mais cela ne règle pas le problème de sécurité sous-jacent. Les organisations doivent également comprendre comment les informations sont parvenues au service d’IA et renforcer les contrôles qui auraient dû les protéger.
À lire également : pour obtenir des conseils supplémentaires sur la restriction de l’accès de l’IA aux systèmes métier sensibles, consultez la liste de contrôle de sécurité des agents d’IA.





