Microsoft hat einen Fehler in Microsoft 365 Copilot Chat bestätigt, durch den der KI-Assistent als vertraulich gekennzeichnete E-Mails zusammenfassen konnte, selbst wenn Vertraulichkeitskennzeichnungen und Richtlinien zur Verhinderung von Datenverlust (DLP) eingerichtet waren.
Das Problem wurde erstmals identifiziert am 21. Januar 2026 und intern unter der Nummer CW1226324 erfasst. Es betraf die Chatfunktion auf der Registerkarte „Arbeit“ von Copilot.
„Ohne eine angemessene Prüfung des Datenhandlings durch die KI werden sensible Informationen möglicherweise nicht mit der gebotenen Sorgfalt behandelt“, sagte Melissa Ruzzi, Director of AI bei AppOmni, in einer E-Mail an eSecurityPlanet.
Sie fügte hinzu: „Um diese Bedrohungen zu minimieren, besteht der erste wichtige Schritt darin, sicherzustellen, dass die Mitarbeiter in den Best Practices für den Einsatz von KI geschult sind.“
Melissa erklärte: „Geben Sie ihnen Richtlinien dazu, worauf sie achten sollten, und befähigen Sie sie dadurch nicht nur, KI richtig einzusetzen, sondern auch bei auftretenden Problemen Bedenken zu äußern. So lassen sich Probleme frühzeitig erkennen.“
Der Microsoft-Copilot-Bug
Der Vorfall verdeutlicht die wachsende Komplexität bei der Governance von KI-Funktionen, die in moderne SaaS-Plattformen eingebettet sind.
Da Unternehmen generative KI zunehmend in zentrale Produktivitäts-Workflows integrieren, müssen sich herkömmliche Sicherheits- und Compliance-Kontrollen weiterentwickeln und berücksichtigen, wie Large Language Models (LLMs) Unternehmensdaten abrufen, verarbeiten und zusammenfassen.
Copilot Chat — der KI-gestützte Assistent von Microsoft, der in Outlook, Word, Excel, PowerPoint und OneNote integriert ist — soll Benutzern helfen, Informationen aus dem Unternehmen aufzuspüren, zu synthetisieren und in ihren Kontext einzuordnen.
Indem Copilot auf Inhalte wie E-Mails, Dokumente, Besprechungsnotizen und andere Microsoft-365-Daten zurückgreift, können Benutzer Zusammenfassungen erstellen, Antworten formulieren und Erkenntnisse aus großen Informationsmengen gewinnen.
Sein Nutzenversprechen beruht auf einem umfassenden kontextbezogenen Zugriff auf Unternehmensdaten — doch genau diese breite Zugriffsmöglichkeit erhöht auch die Bedeutung einer strikten Durchsetzung von Richtlinien.
Wie der Copilot-Bug DLP-Kontrollen umging
Laut Microsoft ging das Problem auf einen nicht näher bezeichneten Programmierfehler zurück, der die Registerkarte „Arbeit“ von Copilot Chat betraf.
Der Fehler ermöglichte es dem Assistenten, in den Ordnern „Gesendet“ und „Entwürfe“ gespeicherte E-Mails zu verarbeiten und zusammenzufassen, selbst wenn diese Nachrichten durch Vertraulichkeitskennzeichnungen geschützt waren und aktiven DLP-Richtlinien unterlagen.
Copilot analysierte und fasste somit Inhalte zusammen, die Unternehmen ausdrücklich als eingeschränkt gekennzeichnet hatten und von denen sie erwarteten, dass sie von der automatisierten KI-Verarbeitung ausgeschlossen würden.
Warum der Vorfall Compliance-Bedenken aufwirft
„Dadurch erhielt niemand Zugriff auf Informationen, deren Einsicht er nicht ohnehin bereits autorisiert war“, sagte ein Microsoft-Sprecher in einer Nachricht an BleepingComputer.
Mit anderen Worten: Benutzer konnten nur Zusammenfassungen von Inhalten sehen, auf die sie innerhalb von Microsoft 365 bereits Zugriffsrechte hatten.
Das Verhalten wich jedoch vom vorgesehenen Design von Copilot ab. Dieses soll Vertraulichkeitskennzeichnungen und DLP-Kontrollen berücksichtigen, indem geschützte Inhalte aus KI-gestützten Abruf- und Zusammenfassungsprozessen ausgeschlossen werden.
Die Situation spiegelt ein Versagen bei der Durchsetzung von Richtlinien innerhalb eines KI-gestützten Workflows wider: Etablierte Sicherheitskontrollen funktionierten nicht wie vorgesehen, sobald die KI-Verarbeitung eingeführt wurde.
Wenn Zugriffskontrollen, Datenschutzrichtlinien und die Logik für den Abruf und die Zusammenfassung durch KI nicht aufeinander abgestimmt sind, sehen sich Unternehmen erhöhten Compliance-, Governance- und regulatorischen Risiken ausgesetzt.
Microsoft begann Anfang Februar 2026 mit der Verteilung eines Fixes und erklärte, die Bereitstellung weiterhin zu überwachen, um sicherzustellen, dass das Problem vollständig behoben wird.
Risiken für die Datensicherheit durch KI minimieren
Da KI-gestützte Assistenten zunehmend in alltägliche Produktivitäts-Workflows eingebettet werden, müssen Unternehmen sicherstellen, dass sich Governance und Sicherheitskontrollen parallel dazu weiterentwickeln.
Herkömmliche Schutzmaßnahmen wie DLP-Richtlinien, Vertraulichkeitskennzeichnungen und Zugriffsbeschränkungen sind nur dann wirksam, wenn sie innerhalb KI-gestützter Funktionen wie Copilot konsequent durchgesetzt werden.
Proaktive Validierung, Überwachung und Risikomanagement sind unerlässlich, um eine unbeabsichtigte Offenlegung oder einen Missbrauch sensibler Informationen zu verhindern.
- Validieren Sie, dass DLP-Richtlinien und Vertraulichkeitskennzeichnungen in Copilot ordnungsgemäß durchgesetzt werdenindem Sie testen, wie vertrauliche Inhalte in E-Mail- und Dokumenten-Workflows behandelt werden.
- Beschränken Sie den Copilot-Zugriff mithilfe rollenbasierter Kontrollen und Richtlinien für den bedingten Zugriff, um die KI-Verarbeitung auf geeignete Benutzer, Geräte und vertrauenswürdige Umgebungen zu beschränken.
- Überprüfen und härten Sie die Konfigurationseinstellungen von Copilot , um die Übereinstimmung mit unternehmensweiten Richtlinien zum Datenschutz, zur Compliance und zur Aufbewahrung sicherzustellen.
- Aktivieren Sie eine umfassende Protokollierung und integrieren Sie die Copilot-Telemetrie in SIEM- oder andere Überwachungsplattformen, um anomale KI-gestützte Muster beim Datenzugriff oder bei der Zusammenfassung zu erkennen.
- Isolieren Sie hochsensible Workloads und wenden Sie Praktiken zur Datenminimierung an , um die unnötige Offenlegung regulierter oder vertraulicher Inhalte gegenüber KI-Tools zu reduzieren.
- Beziehen Sie KI-gestützte SaaS-Funktionen in formelle Risikobewertungen, Schwachstellenmanagementprogramme und adversariale Testübungen ein, um die Grenzen der Durchsetzung zu validieren.
- Testen Sie Notfallreaktionspläne und entwickeln Sie Playbooks für Szenarien, in denen sensible Daten unbeabsichtigt durch KI verarbeitet werden.
Zusammen tragen diese Maßnahmen dazu bei, den Schadensradius einer unbeabsichtigten Offenlegung von KI-Daten zu begrenzen und zugleich die Widerstandsfähigkeit von Unternehmen gegenüber neu entstehenden Risiken in KI-gestützten SaaS-Umgebungen zu stärken.
KI als neue Datenrisikoebene
Der Copilot-Vorfall verdeutlicht, dass KI-Funktionen als zusätzliche Datenverarbeitungsebenen innerhalb von Unternehmenssystemen fungieren und entsprechend gesteuert werden sollten.
Da generative KI immer stärker in SaaS-Plattformen integriert wird, müssen Sicherheitsteams sicherstellen, dass bestehende Kontrollen — etwa die Durchsetzung von Richtlinien und die Überwachung — konsequent auf KI-gestützte Workflows und nicht nur auf herkömmliche Benutzeraktivitäten angewandt werden.
Dieser Wandel bei der Nutzung von KI unterstreicht die Notwendigkeit von Zero-Trust-Lösungen , die Zugriffe kontinuierlich überprüfen und granulare Kontrollen für Benutzer, Geräte, Anwendungen und Daten durchsetzen.