WhatsApps öffentliche Datenschutzrichtlinie erkennt das Recht der Nutzer an, sich bei Datenschutzaufsichtsbehörden zu beschweren. Dennoch wiesen verborgene Anweisungen auf den Hilfe-Center-Seiten den KI-Chatbot an, diese Möglichkeit in bestimmten Fällen nicht zu empfehlen.
Das Unternehmen Redact, das sich auf die Löschung von Daten spezialisiert hat, entdeckte die im HTML-Quellcode der Hilfe-Center-Seiten von WhatsApp eingebetteten Anweisungen. Einige wiesen den Chatbot an, Beschwerden bei Aufsichtsbehörden wegen Problemen bei der Kontolöschung nicht zu empfehlen, während andere ihm untersagten, bestimmte Informationen zu zitieren.
WhatsApp führte die Offenlegung auf einen Fehler zurück und hat die Anweisungen inzwischen entfernt. Die Entdeckung belegt nicht, dass WhatsApp gegen Datenschutzrecht verstoßen hat. Sie zeigt jedoch, wie wichtig es ist, sicherzustellen, dass KI-Antworten mit den veröffentlichten Richtlinien eines Unternehmens übereinstimmen.
Worum geht es im Kern dieser Geschichte?
Redact entdeckte 102 Blöcke verborgener KI-Anweisungen auf 80 Hilfe-Center-Seiten von WhatsApp.
Die Anweisungen waren in den HTML-Quellcode der Seiten eingebettet. Dadurch waren sie für normale Besucher unsichtbar, konnten aber möglicherweise von Systemen verarbeitet werden, die den zugrunde liegenden Seiteninhalt auswerten. Redact fand Anweisungen unter der Kennung HelpContentGalaxyLLMInclude, die Inhalte für den KI-Support-Chatbot von WhatsApp kennzeichnen sollte.
In einem angeführten Beispiel erklärte WhatsApp, was Nutzer tun konnten, wenn sie den Zugriff auf ihr Telefon oder ihre Nummer verloren hatten. Die verborgenen Anweisungen gingen jedoch weiter und wiesen den Chatbot an, weder die Kontaktaufnahme mit einer Datenschutzbehörde zu empfehlen noch darauf hinzuweisen, dass WhatsApp das Konto manuell löschen könnte.
Dadurch entsteht eine Diskrepanz zwischen den Optionen, die in den öffentlichen Datenschutzinformationen des Unternehmens anerkannt werden, und den Hinweisen, die der Chatbot geben sollte.
Redact identifizierte 102 Blöcke von KI-gesteuerten Anweisungen auf 80 Hilfe-Center-Seiten von WhatsApp. Nicht alle schränkten Informationen ein: Einige sollten verwirrende Themen erläutern, Nutzer auf relevantere Seiten leiten oder Sicherheitshinweise geben.
WhatsApp zufolge legte ein Fehler die Anweisungen offen
WhatsApp bestätigte gegenüber WIRED, dass die Anweisungen aufgrund eines Fehlers auf den Hilfe-Center-Seiten erschienen. Das Unternehmen erklärte außerdem, dass sein KI-Support-Chatbot nicht dazu gedacht war, Rechtsberatung zu erteilen.
Gegenüber WIRED erklärte WhatsApp, dass sein KI-Support-Chatbot nicht dazu gedacht war, Rechtsberatung zu erteilen. Das ist angesichts der Tatsache, dass KI-Modelle halluzinieren und Nutzern ungenaue rechtliche Informationen geben können, eine nachvollziehbare Haltung — möglicherweise mit weiteren Problemen sowohl für den Nutzer als auch für das Unternehmen.
Redact argumentiert jedoch, dass es einen Unterschied gibt zwischen dem Verzicht auf Rechtsberatung und dem Vorenthalten von Informationen über die den Nutzern zur Verfügung stehenden Optionen.
Nach Angaben der Forscher gingen einige Anweisungen über die bloße Zurückhaltung mit Rechtsberatung hinaus und wiesen den Chatbot an, die Kontaktaufnahme mit Datenschutzbehörden nicht zu empfehlen oder auf einschlägige Datenschutzgesetze zu verweisen.
Die Entdeckung wirft die Frage auf, wo Unternehmen die Grenze zwischen der Einschränkung der Zuständigkeiten eines KI-Assistenten und der Sicherstellung genauer Informationen über die Optionen der Nutzer ziehen sollten
Weiterreichende Folgen für Unternehmen, die kundenorientierte KI einsetzen
Für Unternehmen, die KI in kundenorientierten Funktionen einsetzen, zeigt der Vorfall, dass sie nicht nur darauf achten müssen, was ihre Chatbots sagen, sondern auch darauf, was sie nicht sagen sollen.
Das ist besonders wichtig, wenn Beschwerden, Kontoschließungen, Abrechnungsstreitigkeiten, Datenschutzanfragen oder andere Situationen, in denen Nutzer ihre Optionen verstehen müssen, von KI-Systemen bearbeitet werden, bevor sie entscheiden, was sie als Nächstes tun.
Es ist sinnvoll, einen Chatbot daran zu hindern, professionelle Beratung zu erteilen. Unternehmen sollten jedoch darauf achten, dass diese Einschränkungen ihn nicht daran hindern, grundlegende, relevante Informationen bereitzustellen oder Nutzer an die zuständige Behörde oder einen geeigneten Fachmann zu verweisen.
Für Sicherheits- und KI-Governance-Teams unterstreicht der Vorfall, wie wichtig es ist, Chatbot-Anweisungenzu überprüfen, Antworten anhand realer Kundenszenarien zu testen und zu kontrollieren, ob interne Einschränkungen im Widerspruch zu veröffentlichten Richtlinien oder den legitimen Optionen der Nutzer stehen.
Ein Chatbot muss nicht eine falsche Antwort erfinden, um einen Nutzer im Stich zu lassen. Manchmal reicht es aus, eine wichtige Option wegzulassen.
Für Unternehmen, die kundenorientierte KI einsetzen, geht die Lehre über die Vermeidung von Halluzinationen hinaus. Unternehmen müssen auch prüfen, welche Informationen ihre Systeme nicht nennen sollen, denn solche Auslassungen können die Entscheidungen der Nutzer ebenso stark beeinflussen und das Vertrauen untergraben wie eine falsche Antwort.
Weitere Meldungen: Microsoft hat neue Sicherheitskontrollen vorgestellt, die das Verhalten von KI-Agenten überwachen und den Zugriff bei auftretenden Risiken beschränken