Das nächste Ziel von Online-Betrügern könnte nicht direkt Ihr Bankkonto sein, sondern der KI-Agent, dem Sie anvertrauen, von diesem Konto Geld auszugeben.
Sechs große Banken warnen, dass der agentische Handel neue Möglichkeiten für Betrug, Abzocke und Datenschutzverletzungen schaffen könnte, wenn KI-Systeme die Befugnis erhalten, Produkte auszuwählen, mit Händlern zu interagieren und im Namen von Verbrauchern Käufe abzuschließen.
Bank of America, Capital One, ING Group, NatWest, Commonwealth Bank of Australia und ASB Bank haben mit einer gemeinsamen Reihe von Grundsätzen reagiert, die diese Transaktionen sicherer machen sollen.
Der Grund dafür ist, dass ein KI-Einkaufsagent mehr als ein weiteres Stück Software werden kann: Er könnte vertrauliche Informationen speichern und dazu berechtigt sein, im Namen eines Nutzers zu handeln. Die Banken warnen, dass Angreifer Agenten und Händler kompromittieren oder sich als diese ausgeben könnten. Zugleich könnten Verbraucher mit weniger weitreichendem Zahlungsschutz oder unklarer Verantwortlichkeit konfrontiert sein, wenn ein Agent einen Fehler macht.
Wo die Banken die größten Risiken sehen
Die sechs Banken sind nicht zwangsläufig gegen den Einsatz von KI-Agenten im Onlinehandel. Ihr zentrales Argument lautet jedoch, dass die rasche Integration von KI in den Sektor den bestehenden Schutz überholt – eine Warnung, die auch den jüngsten Debatten über eine Verlangsamung der KI-Entwicklung.
Laut dem Bericht der Banken sind Verbraucher begeistert davon, KI-Agenten das Einkaufen zu überlassen. Viele seien sich jedoch weiterhin „nicht sicher, ob KI-Agenten in ihrem Interesse handeln“, wenn sie Einzelhandelsaktivitäten ausführen.
Dazu gehört, wie ein Agent ein Produkt ausgewählt hat, warum er sich für einen bestimmten Händler oder eine bestimmte Zahlungsmethode entschieden hat oder was passiert, wenn der Agent einen Kauf tätigt, den der Verbraucher nicht beabsichtigt hat.
Diese Unklarheit wiegt schwerer, wenn eine KI über Empfehlungen hinausgeht und beginnt, selbst zu handeln. Ein Agent, der nach einem Produkt suchen kann, ist eine Sache; ein Agent, der den Verkäufer auswählen, Zahlungsinformationen verwalten und die Transaktion im Namen eines Kunden abschließen kann, hat erheblich mehr Befugnisse – und schafft damit mehr Möglichkeiten für Betrug und Abzocke, Datenschutzverletzungen und Streitfälle.
KI-Einkäufe entwickeln sich schneller als ihre Schutzvorkehrungen
Die Warnung kommt zu einem Zeitpunkt, an dem KI-Agenten zunehmend autonom handeln und echte Transaktionen abwickeln, anstatt lediglich Produkte zu empfehlen.
Gleichzeitig klären KI-Unternehmen und Händler noch, wer Zugriff auf die von ihnen erzeugten Daten erhält und auf die Infrastruktur, die diese Systeme nützlich macht. Händler möchten, dass KI-Agenten Kunden zu ihren Produkten führen, aber sie wollen auch die Kontrolle über ihre Kundenbeziehungen und die bei diesen Interaktionen erzeugten Daten behalten. Der jüngste Streit zwischen Amazon und Meta über den Muse-Agenten von Meta zeigt, wie schnell diese Spannung in einen Streit über Zugriff, Datenschutz und Sicherheit umschlagen kann.
Der agentische Handel breitet sich durch Partnerschaften zwischen KI-Unternehmen, Händlern und Zahlungsdienstleistern weiter aus, obwohl Fragen der Verantwortlichkeit, des Verbraucherschutzes und der Regeln für den Datenaustausch weiterhin ungeklärt sind.
Was die Banken ändern wollen
Die sechs Banken schlagen fünf Grundsätze für einen sichereren agentischen Handel vor:
- Transparenz: Verbraucher sollten wissen, wann ein KI-Agent in ihrem Namen handelt und warum er eine bestimmte Entscheidung getroffen hat.
- Sicherheit: Agenten sollten über Schutzvorkehrungen verfügen, die nicht autorisierte Transaktionen, Manipulation und Betrug reduzieren.
- Datenschutz und Daten: Nutzer sollten die Kontrolle über vertrauliche Informationen behalten, die zwischen Agenten, Händlern und Zahlungsdienstleistern ausgetauscht werden.
- Wahlfreiheit: Verbraucher sollten Berechtigungen und Zahlungsmethoden steuern können und festlegen können, wie viele Befugnisse ein Agent erhält.
- Interoperabilität: Systeme sollten händler- und zahlungsdienstleisterübergreifend funktionieren, ohne die Sicherheit oder den Verbraucherschutz zu schwächen.
In der Praxis bedeutet das, dass Verbraucher wissen sollten, wann eine KI in ihrem Namen handelt, verstehen sollten, was sie tun darf, ihre Berechtigungen kontrollieren sollten und im Fall eines Fehlers auf eine verlässliche Aufzeichnung von Anweisungen, Authentifizierung und Transaktionen zurückgreifen können sollten.
Für Verbraucher ist die praktische Konsequenz recht einfach: Ein KI-Agent sollte keinen Blankoscheck erhalten, nur weil er in Ihrem Namen einkaufen kann. Je mehr Kontrolle ein Agent hat, desto wichtiger ist es, diese Befugnisse zu begrenzen, eine prüfbare Aufzeichnung seiner Aktivitäten zu führen und einen klaren Weg zu schaffen, um eine Transaktion anzufechten, wenn er einen Fehler macht.
Es gibt allerdings einen wichtigen Haken: Dies sind „freiwillige und nicht bindende“ Grundsätze und keine neuen Vorschriften. Das bedeutet, dass ein Großteil des Schutzes, den diese Banken fordern, weiterhin davon abhängt, worauf sich KI-Unternehmen, Händler, Zahlungsdienstleister und Regulierungsbehörden tatsächlich einigen und was sie umsetzen.
Weitere Meldungen: ShinyHunters behauptet, FBI-Systeme durch Ausnutzung einer Zero-Day-Lücke in Oracle PeopleSoft kompromittiert zu haben, angeblich mit Zugriff auf interne Dienste und dem Diebstahl vertraulicher Daten von Beschäftigten und Bewerbern.