Arbeitsdokumente und KI: Was Sie vor dem Einfügen entfernen sollten

Wenn Sie ein Arbeitsdokument in einen KI-Assistenten einfügen, können Kundendaten, Zugangsdaten oder Unternehmensgeheimnisse offengelegt werden, die mit der Aufgabe überhaupt nichts zu tun haben.

Bevor Sie ein KI-Tool bitten, einen Bericht zusammenzufassen, eine E-Mail neu zu formulieren oder eine Tabelle zu analysieren, sollten Sie prüfen, was Sie übermitteln. Das britische National Cyber Security Centre rät davon ab, sensible Informationen in öffentliche KI-Prompts einzugeben.

Das praktische Ziel besteht darin, dem Assistenten genügend Kontext zu geben, damit er helfen kann, ohne unnötige sensible Informationen weiterzugeben. Dazu müssen Sie sowohl den sichtbaren Text als auch – beim Hochladen einer Datei – Inhalte prüfen, die Sie möglicherweise nicht sofort sehen.

Prüfen Sie zunächst, ob Sie das Dokument weitergeben dürfen

Vergewissern Sie sich, dass Ihre Organisation diese Art von Informationen in dem konkreten KI-Tool und Konto, die Sie verwenden möchten, erlaubt. Ein persönliches Konto sollte nicht als gleichwertig mit dem genehmigten Arbeitsbereich Ihres Arbeitgebers betrachtet werden. Wenn das Dokument einer Zugriffsbeschränkung unterliegt oder unklar ist, ob Sie es verwenden dürfen, fragen Sie die IT-Abteilung oder das Sicherheitsteam nach einem genehmigten Vorgehen.

Prüfen Sie die Regeln für Zugriff, Aufbewahrung, Training und verbundene Apps. Eine Einstellung, die Inhalte vom Modelltraining ausschließt, beantwortet nur einen Teil dieser Prüfung. Das Entfernen sensibler Details kann die Offenlegung verringern, setzt aber nicht die Regeln Ihres Arbeitgebers außer Kraft.

Entfernen Sie Zugangsdaten und alles, was Zugriff gewährt

Beginnen Sie mit Passwörtern, API-Schlüsseln, Zugriffstoken, privaten Schlüsseln, Wiederherstellungscodes und Datenbankverbindungszeichenfolgen mit enthaltenen Zugangsdaten. Prüfen Sie auch Fehlerbehebungsprotokolle, Konfigurationsdateien und Screenshots, in denen solche Details leicht übersehen werden können.

Ersetzen Sie das gesamte Geheimnis durch einen beschreibenden Platzhalter, etwa [API_KEY_REMOVED]. Vermeiden Sie es, ein teilweise vorhandenes Zugangsdatenfragment stehen zu lassen, wenn die Aufgabe es nicht erfordert. Entfernen Sie Links mit Zugriffstoken oder URLs, die Zugriff auf eine private Ressource gewähren.

Für eine Anfrage zur Programmierung oder Fehlerbehebung sollten Sie ein kleines Beispiel mit Dummy-Zugangsdaten bereitstellen. Das Modell muss im Allgemeinen die Struktur des Problems verstehen, nicht sich bei Ihrem System authentifizieren.

Wie wichtig der Schutz dieser Werte über Chatbots hinaus ist, zeigt die Berichterstattung über von KI-Unternehmen auf GitHub offengelegte API-Schlüssel und andere Geheimnisse.

Entfernen Sie persönliche Details und identifizierende Kontextinformationen

Entfernen Sie Namen, persönliche E-Mail-Adressen, Telefonnummern, Privatadressen, staatliche Identifikationsnummern, Kontonummern sowie Kunden- oder Mitarbeiter-IDs, wenn sie nicht erforderlich sind. Gesundheitsinformationen, Gehaltsunterlagen, Leistungsbeurteilungen und Disziplinarmaßnahmen sollten Sie als besonders sensibel behandeln.

Auch wenn Sie einen Namen durch „Mitarbeiter A“ ersetzen, kann die betreffende Person möglicherweise noch identifizierbar sein. Eine einzigartige Berufsbezeichnung, ein kleiner Bürostandort, das genaue Datum eines Vorfalls und eine detaillierte Schilderung eines Ereignisses können den Kreis der Personen, die das Dokument beschreibt, stark eingrenzen.

Das britische Information Commissioner’s Office erklärt, dass das alleinige Entfernen direkter Identifikatoren nicht ausreicht, um eine wirksame Anonymisierung sicherzustellen. Auch der Kontext und die Möglichkeit, Informationen miteinander zu verknüpfen, sind relevant.

Für eine Schreibaufgabe sollten Sie den zugrunde liegenden Fall durch ein fiktives Beispiel ersetzen. Wenn für die Analyse echte Datensätze erforderlich sind, nutzen Sie den genehmigten Prozess zur Datenverarbeitung, statt anzunehmen, dass der Datensatz durch das schnelle Ersetzen eines Namens anonymisiert wurde.

Entfernen Sie vertrauliche Geschäfts- und Sicherheitsinformationen

Prüfen Sie neben den Identifikatoren auch den Inhalt des Dokuments. Der Übernahmeplan eines nicht genannten Unternehmens, eine noch nicht veröffentlichte Produkt-Roadmap, ein ausgehandelter Rabatt oder eine Umsatzprognose können weiterhin vertraulich sein.

Die Leitlinien von OWASP zur Offenlegung sensibler Informationen in KI-Systemenführen Finanzdetails, juristische Dokumente, Geschäftsdaten und Sicherheitszugangsdaten als schützenswerte Informationen auf.

Je nach Aufgabe und den Richtlinien Ihres Arbeitgebers sollten Sie Folgendes entfernen oder ersetzen:

• Unveröffentlichte Finanzergebnisse, Budgets, Margen und Prognosen.
• Kundenlisten, Vertragsbedingungen, Preisvereinbarungen und Vertriebschancen.
• Proprietärer Quellcode, Produktdesigns und Forschungsergebnisse.
• Interne Hostnamen, Netzwerkdiagramme, Informationen zu Schwachstellen und Angaben zur Reaktion auf Sicherheitsvorfälle.
• Rechtsberatung, Prozessstrategie und vertrauliche Personalentscheidungen.

Wenn Sie lediglich Hilfe dabei benötigen, eine E-Mail verständlicher zu formulieren, tragen der genaue Vertragswert oder die Identität des Kunden möglicherweise nichts Nützliches bei. Ersetzen Sie sie durch Platzhalter und fügen Sie die tatsächlichen Details später in Ihrem genehmigten Editor ein.

Wenn diese Details für die angeforderte Analyse unerlässlich sind, ändern Sie sie nicht und verlassen Sie sich anschließend nicht auf die Antwort, als würde sie das ursprüngliche Dokument beschreiben. Verlagern Sie die Aufgabe in eine für diese Informationen genehmigte Umgebung.

Prüfen Sie verborgene Inhalte, bevor Sie eine Datei hochladen

Das Einfügen eines kurzen Textauszugs und das Hochladen einer vollständigen Datei erfordern unterschiedliche Prüfungen. Ein Upload kann Inhalte enthalten, die sich außerhalb des Absatzes oder Arbeitsblatts befinden, das der Assistent verwenden soll.

Die Leitlinien von Microsoft zum Dokumentinspektorführen mögliche verborgene Inhalte auf, darunter Kommentare, nachverfolgte Änderungen, Dokumenteigenschaften, ausgeblendete Zeilen und Arbeitsblätter in Tabellenkalkulationen sowie Präsentationsnotizen.

Arbeiten Sie in den unterstützten Office-Desktop-Apps für Windows mit einer Kopie und wählen Sie Datei > Informationen > Auf Probleme prüfen > Dokument prüfen. Word für Mac enthält keinen Dokumentinspektor. Prüfen Sie Dokumenteigenschaften, Kommentare, nachverfolgte Änderungen und andere potenziell sensible Inhalte daher manuell. Sehen Sie sich vor dem Entfernen an, was gefunden wurde: Microsoft weist darauf hin, dass das Entfernen möglicherweise nicht rückgängig gemacht werden kann und dass einige Elemente manuelle Bearbeitung erfordern.

Prüfen Sie auch Screenshots auf Namen, E-Mail-Adressen, Browser-Tabs, interne URLs und Benachrichtigungen. Für PDFs sollten Sie ein geeignetes Schwärzungstool verwenden, die Schwärzungen anwenden und eine separate Kopie speichern. Entfernen Sie außerdem unnötige Metadaten, Kommentare, Anhänge und andere verborgene Inhalte. Öffnen Sie die gespeicherte Kopie erneut, um das Ergebnis zu überprüfen. Ein schwarzes Rechteck über dem Text entfernt den zugrunde liegenden Inhalt nicht.

Kopieren Sie nach Möglichkeit nur den benötigten Text in einen separaten lokalen Entwurf und prüfen Sie genau diesen Auszug, bevor Sie ihn versenden.

Übertragen Sie der KI eine kleinere Aufgabe

Bei vielen Bearbeitungsaufgaben können Sie die Situation beschreiben, ohne das ursprüngliche Dokument bereitzustellen.

Anstatt einen Kunden-E-Mail-Verlauf mit Namen, Kontodetails und Preisen einzufügen, könnten Sie Folgendes versuchen:

„Formuliere eine kurze, professionelle E-Mail, in der erklärt wird, dass sich eine Lieferung verzögern wird. Erkenne die Unannehmlichkeiten an und biete einen aktualisierten Zeitplan an. Verwende [CUSTOMER] und [DATE] als Platzhalter.“

So erhält der Assistent Zweck, Ton und Struktur, ohne die Daten des Kunden offenzulegen. Fügen Sie die tatsächlichen Details anschließend in das von Ihrer Organisation genehmigte System ein.

Bereinigen Sie den Inhalt, bevor Sie ihn versenden. Wenn Sie einen nicht genehmigten Chatbot bitten, vertrauliche Informationen zu entfernen, müssen Sie ihm diese Informationen trotzdem zuerst übergeben. Ebenso ist „Behalte dies vertraulich“ in einem Prompt kein Ersatz für überprüfte Sicherheitskontrollen. OWASP warnt, dass Prompt-Beschränkungen umgangen werden können.

Die abschließende Prüfung sollte dem verbleibenden Inhalt gelten

Lesen Sie den genauen Text oder die Datei, die Sie gleich übermitteln werden. Prüfen Sie, ob die verbleibenden Details jemanden identifizieren, ein Geschäftsgeheimnis preisgeben oder Zugriff auf ein System ermöglichen. Bestätigen Sie anschließend, dass das genehmigte Tool den verbleibenden Inhalt zulässt.

Lassen Sie auch beim Browser und bei den von Ihnen verwendeten Erweiterungen die gleiche Sorgfalt walten. Die Berichterstattung über bösartige Chrome-Erweiterungen, die KI-Unterhaltungen gestohlen haben zeigt, warum auch die umgebende Software kritisch geprüft werden sollte.

Für Sicherheitsteams ist dies außerdem eine Governance-Aufgabe. Organisationen sollten eine Liste genehmigter KI-Tools und zulässiger Datenkategorien veröffentlichen, mit konkreten Beispielen dafür, was Mitarbeitende teilen dürfen, was sie entfernen müssen und wann sie um Hilfe bitten sollten. So erhalten Mitarbeitende eine praktikable Alternative zu den nicht genehmigten Diensten, die hinter der umfassenderen Sicherheitsherausforderung durch Shadow AI stehen.

Wenn Sie bereits ein Dokument mit Zugriffsbeschränkung oder ein gültiges Zugangsdatengeheimnis übermittelt haben, geben Sie keine weiteren Informationen weiter und benachrichtigen Sie Ihr Sicherheitsteam über den vorgesehenen Prozess zur Meldung von Sicherheitsvorfällen. Ein offengelegtes Zugangsdatengeheimnis muss möglicherweise widerrufen oder ausgetauscht werden. Gehen Sie nicht davon aus, dass das Löschen eines Chats die Offenlegung behebt.

Die nützliche Gewohnheit besteht darin, zuerst die Aufgabe zu definieren und dann den kleinsten genehmigten Auszug zu teilen, mit dem sie erledigt werden kann. Wenn Sie nützlichen Kontext und sensible Inhalte nicht zuverlässig voneinander trennen können, holen Sie Hilfe, bevor Sie etwas einfügen.

Möchten Sie mehr Tipps, Tricks und Prompting-Techniken rund um KI kennenlernen? Leserinnen und Leser von eSecurity Planet erhalten 7 Tage kostenlosen Zugang zur The Neuron Academy, unserer praxisorientierten Lernplattform, die Berufstätigen helfen soll, KI bei der Arbeit sicherer einzusetzen. Alle Lektionen ansehen →

Lassen Sie sich von uns zeigen, wie man mit KI spricht – kostenlos! Probieren Sie unseren sechminütigen Kurs bei The Neuron Academy aus und lernen Sie einige einfache Möglichkeiten kennen, bessere Prompts zu formulieren und nützlichere Ergebnisse von KI zu erhalten, oder nutzen Sie sieben Tage lang kostenlos unseren anderen KI-Kurs. Alle Lektionen hier ansehen →