Stellen Sie sich vor, Sie erhalten diese Warnung: Eine Kundentabelle wurde in einen KI-Chatbot eingegeben, und ein Link zum Chat wurde außerhalb des Unternehmens geteilt.
Das Sicherheitsteam steht vor zwei unmittelbaren Fragen. Was kann ein Empfänger sehen, und kann das Team den Zugriff unterbinden? Die Antworten hängen davon ab, was der Chat tatsächlich anzeigt und wer den Link öffnen kann.
Dieses hypothetische Szenario verdeutlicht ein Sicherheitsproblem für Unternehmen, die KI-Tools einsetzen. Das Hochladen von Unternehmensdaten zu einem externen Dienst bedeutet nicht automatisch, dass jemand sie gestohlen hat. Sicherheitsteams müssen feststellen, was geteilt wurde, ermitteln, wer darauf zugreifen konnte, die Offenlegung eindämmen und die möglichen Auswirkungen bewerten, bevor sie über ihre Reaktion entscheiden.
Ermitteln Sie zunächst, welche Informationen offengelegt wurden
Die OWASP Top 10 for LLM Applications stuft die Offenlegung sensibler Informationen als Sicherheitsrisiko ein, das personenbezogene Daten, Zugangsdaten und vertrauliche Geschäftsinformationen betrifft.
Bevor Ermittler eine vermutete Offenlegung als bestätigten Verstoß behandeln, sollten sie feststellen, was die verfügbaren Beweise zeigen.
Was die Sicherheitsprüfung ergibt | Was dadurch bestätigt wird | Was unbekannt bleibt |
|---|---|---|
| Ein Mitarbeiter hat eine vertrauliche Datei zu einem KI-Dienst hochgeladen | Die Informationen haben einen externen Anbieter erreicht | Wie der Anbieter mit den Daten umgegangen ist und ob andere darauf zugreifen konnten |
| Ein geteilter Konversationslink zeigt vertrauliche Informationen an | Die Informationen waren außerhalb des vorgesehenen Empfängerkreises zugänglich | Ob eine unbefugte Person sie angesehen oder kopiert hat |
| Zuverlässige Protokolle belegen einen unbefugten Zugriff | Jemand hat ohne Genehmigung auf die Informationen zugegriffen | Ob diese Person Kopien gespeichert oder weitergegeben hat |
Sicherheitsteams haben möglicherweise nur begrenzte Einblicke darin, was Mitarbeiter in nicht genehmigte KI-Tools hochladen. Dies macht Schatten-KI zu einer potenziellen Quelle für die Offenlegung sensibler Daten – selbst wenn Mitarbeiter nicht beabsichtigen, Unternehmensinformationen zu gefährden.
Sieben Schritte zur Untersuchung und Eindämmung der Offenlegung von KI-Daten
Schritt 1: Sichern Sie Beweise, bevor Sie den Zugriff entfernen
Notieren Sie den Namen der KI-Anwendung, das betreffende Konto, die geteilte URL, relevante Zeitstempel und die betroffene Datei. Erfassen Sie, was der Link anzeigt, und speichern Sie die Beweise an einem Ort mit beschränktem Zugriff.
NISTs Leitlinien zur Reaktion auf Sicherheitsvorfälle betonen eine koordinierte Erkennung, Reaktion und Wiederherstellung. Sicherheitsteams sollten ihre Erkenntnisse dokumentieren und die für die Untersuchung des Vorfalls erforderlichen Beweise sichern.
Wenn vertrauliche Informationen weiterhin öffentlich zugänglich sind, sichern Sie schnell die wichtigsten Beweise und widerrufen Sie den Link. Verzögern Sie die Eindämmung nicht durch eine langwierige Untersuchung.
Schritt 2: Verfolgen Sie, wie die Informationen zur KI-App gelangt sind
Prüfen Sie verfügbare Aufzeichnungen von Endgeräten, Browsern, Proxys, Cloud-Sicherheitslösungen und Data Loss Prevention (DLP), um festzustellen, wer die Informationen wann übermittelt hat.
Microsofts Leitfaden zur Untersuchung der Datensicherheit erklärt, wie Ermittler mithilfe von DLP-Beweisen von Endgeräten und Prüfprotokollen betroffene Dateien und Nutzeraktivitäten untersuchen können.
Wenn die KI-Anwendung mit Unternehmenssystemen verbunden ist, prüfen Sie, auf welche Konten und Dateien diese Integrationen zugreifen konnten. Ermittler sollten außerdem Lücken in ihren Aufzeichnungen ermitteln. Ein Protokoll, das zeigt, dass ein Mitarbeiter eine KI-Website besucht hat, gibt nicht zwangsläufig Aufschluss darüber, was er hochgeladen hat.
Schritt 3: Prüfen Sie, wer auf die Konversation zugreifen konnte
Prüfen Sie die Berechtigungen des geteilten Links und untersuchen Sie, welche Informationen für Empfänger sichtbar sind.
Die Zugriffsregeln unterscheiden sich je nach Anbieter und Kontotyp. Beispielsweise erklärt die Dokumentation von OpenAI, dass Personen mit einem geteilten ChatGPT-Konversationslink eines persönlichen Kontos dessen geteilte Inhalte ansehen können. Verwaltete Arbeitsbereiche unterliegen anderen Einschränkungen für die Freigabe.
Wenn ein Link unbefugten Nutzern das Anzeigen vertraulicher Informationen ermöglicht, wurden die Daten offengelegt. Das bloße Vorhandensein des Links beweist jedoch nicht, dass ein Außenstehender die Inhalte geöffnet oder heruntergeladen hat.
Schritt 4: Dämmen Sie die Offenlegung ein und schützen Sie Zugangsdaten
Widerrufen Sie den geteilten Link und beschränken Sie unnötige Zugriffe auf die betroffene KI-Anwendung. Trennen Sie Integrationen, wenn sie ein fortbestehendes Sicherheitsrisiko darstellen.
Wenn die offengelegten Informationen Passwörter, API-Schlüssel oder Zugriffstoken enthalten, widerrufen oder erneuern Sie diese Zugangsdaten umgehend. Prüfen Sie die zugehörigen Konten auf verdächtige Aktivitäten.
Das Löschen einer Konversation oder Deaktivieren eines Links kann weiteren Zugriff verhindern, aber diese Maßnahmen garantieren nicht, dass vorhandene Kopien verschwunden sind.
Schritt 5: Kontaktieren Sie den KI-Anbieter zum Umgang mit den Daten
Fragen Sie den Anbieter, ob er die übermittelten Informationen speichert und wie er mit Löschanfragen umgeht.
Fordern Sie Einzelheiten zur Datenspeicherung, zu verfügbaren Zugriffsprotokollen und dazu an, ob die Kontoeinstellungen dem Anbieter erlauben, übermittelte Inhalte zur Verbesserung von Modellen zu verwenden.
Dokumentieren Sie die Antwort des Anbieters sowie jede bestätigte Löschung oder Zugriffsbeschränkung. Wenn der Anbieter nicht feststellen kann, ob andere auf die Informationen zugegriffen oder sie gespeichert haben, halten Sie diese Ungewissheit fest.
Schritt 6: Stellen Sie fest, ob eine Meldung des Datenschutzverstoßes erforderlich ist
Beziehen Sie Rechts-, Datenschutz- und Compliance-Teams ein, wenn die offengelegten Informationen personenbezogene Daten, Kundendaten oder regulierte Informationen enthalten.
Die Meldepflichten hängen vom anwendbaren Recht, der Art der betroffenen Informationen und dem möglichen Schaden für die betroffenen Personen ab. Beispielsweise verlangt das britische Information Commissioner's Office von Unternehmen, bestimmte Verstöße gegen den Schutz personenbezogener Daten unverzüglich und, sofern möglich, innerhalb von 72 Stunden nach ihrer Kenntnis zu melden.
Nicht jedes unbefugte Hochladen zu einer KI erfordert eine Meldung an die Aufsichtsbehörden. Unternehmen sollten ihre Bewertung jedoch dokumentieren und eine vorgeschriebene Meldung nicht allein deshalb verzögern, weil die Untersuchung noch nicht abgeschlossen ist.
Schritt 7: Stärken Sie Sicherheitskontrollen und testen Sie sie
Prüfen Sie, welche KI-Anwendungen Mitarbeiter verwenden dürfen und welche Informationen sie übermitteln dürfen. Wenden Sie Regeln zur Datenklassifizierung an, beschränken Sie unnötige Integrationen und stellen Sie genehmigte Alternativen bereit.
Microsoft empfiehlt DLP-Kontrollen, die verhindern, dass sensible Informationen in KI-Anwendungen eingefügt oder hochgeladen werden. Sicherheitsteams sollten diese Einschränkungen testen, um zu bestätigen, dass sie wie vorgesehen funktionieren.
Selbst etablierte Kontrollen können versagen. Bei einem früheren Vorfall berichtete eSecurity Planet über einen Microsoft-365-Copilot-Fehler, der DLP-Einschränkungen umging und es dem Assistenten ermöglichte, vertrauliche E-Mails trotz bestehender Schutzmaßnahmen zusammenzufassen. Microsoft erklärte, dass das Problem den Nutzern keinen Zugriff auf Informationen gewährte, für die sie nicht ohnehin bereits berechtigt waren.
Was Sicherheitsteams vor dem Abschluss des Vorfalls bestätigen sollten
Vor dem Abschluss einer Untersuchung sollten Sicherheitsteams bestätigen, welche Informationen das Unternehmen verlassen haben, wer darauf zugreifen konnte, welche Eindämmungsmaßnahmen sie abgeschlossen haben und was weiterhin ungeprüft ist.
Der Abschlussbericht sollte alle noch offenen Anfragen an den Anbieter, betroffene Zugangsdaten und eingeführte Sicherheitsänderungen dokumentieren, die einen weiteren Vorfall verhindern sollen.
Fehlen Beweise für einen unbefugten Zugriff, beweist das nicht, dass niemand auf die Informationen zugegriffen hat. Ermittler sollten bestätigte Erkenntnisse von offenen Fragen unterscheiden, statt anzunehmen, dass die Daten gestohlen oder vollständig wiederhergestellt wurden.
Das Löschen einer geteilten Konversation kann weiteren Zugriff verhindern, löst aber nicht das zugrunde liegende Sicherheitsproblem. Unternehmen müssen außerdem verstehen, wie die Informationen zum KI-Dienst gelangt sind, und die Kontrollen stärken, die sie hätten schützen sollen.
Außerdem lesen: Weitere Hinweise zur Einschränkung des KI-Zugriffs auf sensible Geschäftssysteme finden Sie in eSecurity Planets AI Agent Safety Checklist.





