Ein Mitarbeiter des singapurischen Lebensmittelhändlers Bee Cheng Hiang nutzte generative KI, um Code für eine Massenmarketingkampagne zu erstellen, wodurch die E-Mail-Adressen von mehr als 95.000 Kunden offengelegt wurden.
Der Vorfall ist Singapurs erster gemeldeter KI-bezogener Datenschutzverstoß, der der Personal Data Protection Commission (PDPC) gemeldet wurde. Die Aufsichtsbehörde erklärte, das KI-Tool selbst habe nicht fehlerhaft funktioniert. Stattdessen hatte der Prompt des Mitarbeiters das Tool nicht angewiesen, die Adressen der Empfänger zu verbergen, während unzureichende Tests und eine fehlende Kontrolle durch Vorgesetzte dazu führten, dass der fehlerhafte Code in den Produktivbetrieb gelangte.
Von KI generierter E-Mail-Code legt 95.000 Adressen offen
Der Datenschutzverstoß ereignete sich am 25. April, als Bee Cheng Hiang ein mit Hilfe eines KI-Tools erzeugtes Programm nutzte, um Marketing-E-Mails in Stapeln von etwa 1.000 Kunden zu versenden. Da im Prompt nicht angegeben war, dass die E-Mail-Adresse jedes Empfängers verborgen bleiben sollte, konnten Kunden andere Adressen sehen, die im selben Stapel enthalten waren. Das Unternehmen meldete den Verstoß zwei Tage später der PDPC.
The Straits Times berichtete, dass der Unterschied zwischen dem korrekten und dem fehlerhaften Code auf die Positionierung einiger Klammern zurückzuführen war, wodurch sich die Verarbeitung der Empfänger durch das Programm änderte. Mehr als 95.000 E-Mail-Adressen wurden offengelegt. Weitere personenbezogene Daten waren jedoch nicht betroffen, und die PDPC fand keine Belege dafür, dass die Daten später missbraucht wurden.
Wichtig ist, dass die offengelegten Daten nicht von einer KI erzeugt, verarbeitet oder verwaltet wurden. Die Rolle der KI beschränkte sich darauf, beim Schreiben des Codes zu helfen, der die Offenlegung verursachte.
Fehler beim Testen waren ebenso entscheidend wie der Prompt
Der Mitarbeiter testete das Programm vor der Bereitstellung, überprüfte jedoch nur Aktivitätsprotokolle, statt eine tatsächliche Test-E-Mail zu öffnen und zu sehen, wie die Empfänger dargestellt wurden.
Bee Cheng Hiang verließ sich außerdem auf einen einzigen Mitarbeiter, der den Code entwickelte und testete, ohne ein Verfahren zur Kontrolle durch Vorgesetzte oder formelle Richtlinien für die Nutzung generativer KI bei der Arbeit. Die PDPC führte den Vorfall auf menschliches Versagen bei der Entwicklung des E-Mail-Verteilungscodes zurück und nicht auf ein Versagen des KI-Systems.
Laut AsiaOne stoppte Bee Cheng Hiang nach Entdeckung des Problems den Massenversand, korrigierte den Code und benachrichtigte die betroffenen Kunden. Das Unternehmen hat inzwischen vorgeschrieben, dass mindestens zwei Mitarbeiter Massen-E-Mails vor dem Versand prüfen müssen.
Der Fall zeigt, warum Sicherheitsteams von KI generierten Code wie jede andere nicht vertrauenswürdige Softwareausgabe behandeln sollten. Ein Programm, das scheinbar funktioniert, kann dennoch personenbezogene Daten offenlegen, wenn Entwickler Protokolle validieren, ohne zu prüfen, was Endnutzer tatsächlich erhalten.
Singapur verschärft die Kontrollen für von KI generierten Code
Die PDPC nahm von Bee Cheng Hiang eine freiwillige Verpflichtung zur Verbesserung der Einhaltung von Singapurs Personal Data Protection Act an. Die Verpflichtung wurde am 2. September 2026 eingegangen.
Bee Cheng Hiang wird einen Rahmen für die Nutzung von KI durch Mitarbeiter beim Programmieren einführen, einschließlich unabhängiger technischer Prüfungen, wenn von KI generierter Code personenbezogene Daten verarbeitet. Zu den weiteren Maßnahmen gehören umfangreichere Softwaretests, Prüfungen mit Dummy-Konten, ein formeller Prozess zur Reaktion auf Datenschutzverletzungen, Schulungen für Mitarbeiter und automatisierte Kontrollen, die E-Mails mit mehreren Adressen in einem einzigen Empfängerfeld blockieren sollen.
Singapurs PDPA sieht Strafen von bis zu 1 Million S$ oder 10 % des jährlichen Umsatzes einer Organisation in Singapur vor, je nachdem, welcher Betrag höher ist.
Bloomberg berichtete unter Berufung auf The Straits Times, dass es sich bei dem Fall um die erste bei Singapurs Datenschutzaufsicht eingegangene Meldung eines KI-bezogenen Datenschutzverstoßes handelte. Zudem wurde darauf hingewiesen, dass Bee Cheng Hiang vor dem Vorfall noch nie KI in seinen Geschäftsabläufen eingesetzt hatte.
Was der Datenschutzverstoß für Sicherheitsteams im gesamten APAC-Raum bedeutet
Singapurs Fall ist spezifisch für das dortige PDPA, doch das Sicherheitsproblem ist weit über eine einzelne Rechtsordnung hinaus relevant.
Unternehmen im gesamten APAC-Raum, die ihren Mitarbeitern die Nutzung generativer KI für Programmierung, Automatisierung oder Datenverarbeitung erlauben, benötigen Kontrollen für die Zeit, nachdem die KI eine Antwort erzeugt hat.
Die PDPC empfahl Organisationen, vor dem Einsatz von KI-Tools in Geschäftsprozessen Datenschutz-Folgenabschätzungen durchzuführen. Die Maßnahmen von Bee Cheng Hiang bieten Sicherheitsteams zudem eine praktische Checkliste:
- Eine unabhängige Prüfung von KI-generiertem Code vorschreiben, der auf personenbezogene Daten zugreift.
- Tatsächliche Ausgaben mit Dummy-Konten testen, statt sich ausschließlich auf Protokolle zu verlassen.
- Automatisierte Schutzmaßnahmen hinzufügen, die offensichtliche Datenschutzfehler vor der Bereitstellung verhindern.
Der Datenschutzverstoß erforderte weder einen ausgefeilten Angriff noch ein unerwartetes Verhalten des KI-Systems. Eine fehlende Anweisung, begrenzte Tests und eine ausbleibende zweite Prüfung reichten aus, um Zehntausende von Kunden-E-Mail-Adressen offenzulegen. Für Organisationen, die im gesamten APAC-Raum KI einsetzen, bleibt es entscheidend, menschliche Prüfungen und Sicherheitstests in den Arbeitsablauf zu integrieren.
Lesen Sie zu einem weiteren aktuellen Datenleck mit offengelegten E-Mail-Daten, wie das Datenleck bei McKesson nach einer angeblichen Erpressungsforderung von 55,2 Millionen US-Dollar 6,4 Millionen E-Mail-Adressen umfasste.





