Documents professionnels et IA : que supprimer avant de coller

Coller un document professionnel dans un assistant IA peut exposer des données clients, des identifiants ou des secrets d’entreprise qui n’ont rien à voir avec la tâche demandée.

Avant de demander à un outil d’IA de résumer un rapport, de réécrire un e-mail ou d’analyser une feuille de calcul, vérifiez ce que vous lui envoyez. Le National Cyber Security Centre du Royaume-Uni déconseille de mettre des informations sensibles dans des prompts publics d’IA.

L’objectif pratique est de fournir à l’assistant suffisamment de contexte pour l’aider, sans partager d’informations sensibles inutiles. Cela implique de vérifier à la fois le texte visible et, lors de l’importation d’un fichier, le contenu que vous ne voyez peut-être pas immédiatement.

Vérifiez d’abord si vous pouvez partager le document

Vérifiez que votre organisation autorise ce type d’informations dans l’outil et le compte d’IA précis que vous prévoyez d’utiliser. Un compte personnel ne doit pas être considéré comme interchangeable avec l’espace de travail approuvé par votre employeur. Si le document est soumis à des restrictions ou si les autorisations ne sont pas claires, demandez à l’équipe informatique ou de sécurité quelle procédure approuvée suivre.

Vérifiez les règles relatives à l’accès, à la conservation, à l’entraînement et aux applications connectées. Un paramètre qui exclut le contenu de l’entraînement des modèles ne répond qu’à un seul aspect de cet examen. Supprimer les informations sensibles peut réduire l’exposition, mais cela ne déroge pas aux règles de votre employeur.

Supprimez les identifiants et tout ce qui permet d’accéder à un système

Commencez par les mots de passe, les clés API, les jetons d’accès, les clés privées, les codes de récupération et les chaînes de connexion aux bases de données contenant des identifiants. Vérifiez également les journaux de dépannage, les fichiers de configuration et les captures d’écran, où ces informations peuvent facilement passer inaperçues.

Remplacez l’intégralité du secret par un espace réservé explicite, tel que [API_KEY_REMOVED]. Évitez de laisser un identifiant partiel lorsque la tâche ne l’exige pas. Supprimez les liens contenant des jetons d’accès ou des URL permettant d’accéder à une ressource privée.

Pour une demande de programmation ou de dépannage, fournissez un petit exemple avec des identifiants fictifs. En général, le modèle doit comprendre la structure du problème, et non s’authentifier auprès de votre système.

L’importance de protéger ces valeurs va au-delà des chatbots, comme l’illustre la couverture consacrée aux clés API et autres secrets exposés par des entreprises d’IA sur GitHub.

Supprimez les informations personnelles et les éléments permettant d’identifier quelqu’un

Supprimez les noms, adresses e-mail personnelles, numéros de téléphone, adresses personnelles, numéros d’identification officiels, numéros de compte ainsi que les identifiants de clients ou d’employés lorsqu’ils sont inutiles. Considérez les informations de santé, les dossiers de paie, les évaluations de performance et les détails disciplinaires comme particulièrement sensibles.

Remplacer un nom par « Employé A » peut malgré tout permettre d’identifier quelqu’un. Un intitulé de poste unique, un petit site géographique, la date exacte d’un incident et le récit détaillé d’un événement peuvent permettre de déterminer qui est décrit dans le document.

L’Information Commissioner’s Office du Royaume-Uni explique que la seule suppression des identifiants directs ne suffit pas à garantir une anonymisation efficace. Le contexte et la possibilité de relier les informations entre elles comptent également.

Pour une tâche de rédaction, envisagez de remplacer le cas réel par un exemple fictif. Pour une analyse nécessitant des dossiers réels, utilisez la procédure approuvée de traitement des données plutôt que de supposer qu’un simple remplacement de nom a anonymisé le jeu de données.

Supprimez les informations confidentielles de l’entreprise et de sécurité

Examinez le contenu du document, en plus de ses identifiants. Le plan d’acquisition d’une entreprise non nommée, la feuille de route d’un produit non annoncé, une remise négociée ou une prévision de chiffre d’affaires peuvent rester confidentiels.

Les recommandations de l’OWASP sur la divulgation d’informations sensibles dans les systèmes d’IAcomptent les informations financières, les documents juridiques, les données commerciales et les identifiants de sécurité parmi les informations à protéger.

Selon la tâche et la politique de votre employeur, supprimez ou remplacez les éléments suivants :

• Résultats financiers, budgets, marges et prévisions non publiés.
• Listes de clients, modalités contractuelles, accords tarifaires et opportunités commerciales.
• Code source propriétaire, conceptions de produits et résultats de recherche.
• Noms d’hôtes internes, schémas réseau, détails sur les vulnérabilités et informations relatives à la réponse aux incidents.
• Conseils juridiques, stratégie contentieuse et décisions confidentielles concernant le personnel.

Si vous avez seulement besoin d’aide pour rendre un e-mail plus clair, la valeur exacte du contrat ou l’identité du client n’apportent peut-être rien d’utile. Remplacez-les par des espaces réservés et insérez les informations réelles plus tard dans votre éditeur approuvé.

Si ces informations sont indispensables à l’analyse demandée, ne les modifiez pas avant de vous fier à la réponse comme si elle décrivait le document original. Effectuez la tâche dans un environnement approuvé pour ces informations.

Vérifiez le contenu caché avant d’importer un fichier

Coller un court extrait de texte et importer un fichier entier nécessitent des vérifications différentes. Un fichier importé peut contenir des éléments situés en dehors du paragraphe ou de la feuille de calcul que vous vouliez soumettre à l’assistant.

Les recommandations de Microsoft concernant l’Inspecteur de documentidentifient plusieurs éléments potentiellement cachés, notamment les commentaires, les modifications suivies, les propriétés du document, les lignes et feuilles de calcul masquées ainsi que les notes de présentation.

Dans les applications de bureau Office prises en charge sous Windows, travaillez sur une copie et sélectionnez Fichier > Informations > Vérifier l’absence de problèmes > Inspecter le document. Word pour Mac n’inclut pas l’Inspecteur de document ; vérifiez manuellement les propriétés du document, les commentaires, les modifications suivies et tout autre contenu potentiellement sensible. Examinez ce qu’il trouve avant de supprimer quoi que ce soit : Microsoft avertit que la suppression peut être irréversible et que certains éléments nécessitent une intervention manuelle.

Examinez également les captures d’écran pour repérer les noms, les adresses e-mail, les onglets du navigateur, les URL internes et les notifications. Pour les PDF, utilisez un outil de caviardage approprié, appliquez les caviardages et enregistrez une copie distincte. Supprimez également les métadonnées, commentaires, pièces jointes et autres contenus cachés inutiles. Rouvrez la copie enregistrée pour vérifier le résultat ; dessiner un rectangle noir par-dessus un texte ne supprime pas le contenu sous-jacent.

Dans la mesure du possible, copiez uniquement le texte nécessaire dans un brouillon local distinct et examinez cet extrait précis avant de l’envoyer.

Confiez une tâche plus limitée à l’IA

Pour de nombreuses tâches de révision, vous pouvez décrire la situation sans fournir le document original.

Au lieu de coller un échange d’e-mails avec un client contenant des noms, des informations de compte et des tarifs, essayez ceci :

« Rédige un e-mail bref et professionnel expliquant qu’une livraison sera retardée. Reconnais le désagrément et propose un nouveau calendrier. Utilise [CUSTOMER] et [DATE] comme espaces réservés. »

Cela fournit à l’assistant l’objectif, le ton et la structure sans divulguer le dossier du client. Ajoutez ensuite les informations réelles dans le système approuvé de votre organisation.

Effectuez le nettoyage avant d’envoyer le contenu. Demander à un chatbot non approuvé de supprimer les informations confidentielles exige malgré tout de lui transmettre ces informations en premier. De même, écrire « gardez ceci privé » dans un prompt ne remplace pas des contrôles de sécurité vérifiés. L’OWASP avertit que les restrictions de prompt peuvent être contournées.

Effectuez la dernière vérification sur ce qui reste

Relisez le texte ou le fichier exact que vous êtes sur le point d’envoyer. Vérifiez si les informations restantes permettent d’identifier quelqu’un, révèlent un secret commercial ou donnent accès à un système. Confirmez ensuite que l’outil approuvé autorise les éléments restants.

Soyez tout aussi vigilant concernant le navigateur et les extensions que vous utilisez. Les informations publiées sur les extensions Chrome malveillantes qui ont dérobé des conversations avec des IAmontrent pourquoi les logiciels environnants méritent eux aussi d’être examinés.

Pour les équipes de sécurité, il s’agit également d’une tâche de gouvernance. Les organisations devraient publier une liste des outils d’IA approuvés et des catégories de données autorisées, accompagnée d’exemples concrets montrant ce que les employés peuvent partager, ce qu’ils doivent supprimer et dans quels cas ils doivent demander de l’aide. Cela fournit au personnel une solution utilisable face aux services non approuvés à l’origine du défi de sécurité posé par l’IA fantôme.

Si vous avez déjà envoyé un document soumis à des restrictions ou un identifiant encore actif, cessez de partager d’autres informations et prévenez votre équipe de sécurité en suivant sa procédure de signalement des incidents. Un identifiant exposé peut devoir être révoqué ou renouvelé ; ne supposez pas que supprimer une conversation suffit à résoudre l’exposition.

La bonne habitude consiste à définir d’abord la tâche, puis à ne partager que le plus petit extrait approuvé permettant de l’accomplir. Si vous ne pouvez pas séparer avec certitude le contexte utile des éléments sensibles, demandez de l’aide avant de coller quoi que ce soit.

Vous souhaitez découvrir d’autres conseils, astuces et techniques de prompting pour l’IA ? Les lecteurs d’eSecurity Planet bénéficient de 7 jours d’accès gratuit à The Neuron Academy, notre plateforme d’apprentissage pratique conçue pour aider les professionnels à utiliser l’IA avec davantage d’assurance au travail. Parcourir toutes les leçons →

Laissez-nous vous apprendre à parler à l’IA gratuitement ! Suivez notre cours de six minutes sur The Neuron Academy et découvrez quelques méthodes simples pour rédiger de meilleurs prompts et obtenir des résultats plus utiles avec l’IA, ou consultez gratuitement notre autre cours d’IA pendant 7 jours. Découvrez toutes les leçons ici →