KI-Assistenten versprechen, die Verwaltung des eigenen Geldes zu erleichtern. Doch einige der größten Banken Amerikas arbeiten daran, sie von Kundenkonten fernzuhalten.
Große US-Finanzinstitute wie Morgan Stanley, JPMorgan Chase und Bank of America verschärfen laut einem Bericht von Axios vom 22. Okt. die Kontrollen für KI-Agenten von Drittanbietern, die auf Kundenkonten zugreifen. Banken sorgen sich, dass automatisierte Tools Kundenzugangsdaten verwenden, um auf Finanzinformationen zuzugreifen, Callcenter zu kontaktieren und möglicherweise Transaktionen einzuleiten.
Die Sorge gilt den automatisierten Tools, die Bankzugangsdaten von Kunden verwenden, um auf Konten zuzugreifen. Berichten zufolge versuchen einige, Aktionen auszuführen, die über die Anweisungen der Nutzer hinauszugehen scheinen. Banken sorgen sich außerdem, dass Agenten Callcenter kontaktieren und möglicherweise Transaktionen einleiten.
Der Zugriff muss nicht unbedingt auf gestohlenen Zugangsdaten oder auf Hackern beruhen, die in Banksysteme eindringen. Kunden könnten ihre Benutzernamen und Passwörter freiwillig an KI-Dienste weitergegeben haben – selbst wenn ihre Banken solche Vereinbarungen untersagen.
Morgan Stanley hat den Zugriff von Agenten Drittanbieter auf seine Plattformen blockiert, während auch JPMorgan, Bank of America und Citi den Zugriff einschränken, wie Axios berichtete. Reuters berichtete, dass Banken Transaktionen mit geteilten Zugangsdaten markiert und blockiert hätten.
Trotz dieser Einschränkungen erklärte die Bank laut Axios, sie habe keine nicht autorisierten KI-Agenten beim Zugriff auf ihre Plattformen beobachtet. JPMorgan-CEO Jamie Dimon hatte zuvor erklärt, die Bank werde externe Agenten ohne geeignete Kontrollen nicht in ihre Systeme lassen.
Das Identitätsproblem hinter dem Banking mit KI
Die Schwierigkeit geht über die Identifizierung automatisierter Software hinaus. Banken müssen feststellen, ob ein Agent die Berechtigung hat, eine bestimmte Aktion auszuführen, und ob diese Aktion den Absichten des Kunden entspricht.
Ted Miracco, CEO von Approov, ist der Ansicht, dass die Verantwortung bei den Kunden liegt, die ihre Bankzugangsdaten weitergeben, sowie bei den Anbietern, die Agenten so entwickeln, dass diese danach fragen – nicht bei den KI-Systemen selbst.
„In dieser Geschichte gibt es keine ‚außer Kontrolle geratenen Maschinen‘. Es gibt nur unverantwortliche Menschen, die KI-Software ihre Bankzugangsdaten überlassen, und Anbieter, die Agenten ausliefern, die danach fragen. Beides sind menschliche Entscheidungen, und beide sollten finanzielle Konsequenzen haben. Derzeit ist das bei keinem von beiden eindeutig der Fall“, sagte Miracco gegenüber eSecurity Planet.
Die zunehmende Nutzung von KI-Agenten wirft außerdem die Frage auf, ob Banken die Sicherheitskontrollen zum Schutz von Kundenkonten ausreichend testen.
John Strand, Inhaber von Black Hills Information Security, warnte, dass herkömmliche Penetrationstests Lücken hinterlassen können, wenn Kundenkonten vom Testumfang ausgeschlossen werden.
„Kundenkonten aus dem Testumfang auszunehmen, darf nicht bedeuten, die Kontrollen zum Schutz dieser Konten ungeprüft zu lassen“, sagte Strand.
Warum der Nur-Lese-Zugriff der nächste Schritt sein könnte
Banken loten einen Mittelwegaus, der nützliche Automatisierung ermöglicht, ohne KI-Tools die Kontrolle über das Geld der Kunden zu geben. Laut Axios haben viele Institute den Nur-Lese-Zugriff genehmigt oder bewegen sich darauf zu. Damit können Agenten Finanzinformationen abrufen, ohne Transaktionen auszuführen.
John Carberry, Solution Sleuth bei Xcape Inc., erklärte, Finanzinstitute sollten sich von geteilten Zugangsdaten abwenden und API-basierte Zugriffskontrollen einführen, darunter OAuth-Abläufe mit eingeschränkten Berechtigungen.
Damit könnten Kunden KI nutzen, um Ausgaben zu kategorisieren oder ihr Ausgabeverhalten zu analysieren, ohne einem Agenten die Berechtigung zu erteilen, Geld zu überweisen. Der Nur-Lese-Zugriff ist jedoch nicht risikofrei. Finanzunterlagen können sensible Informationen über Ausgabengewohnheiten, Kontostände und Transaktionsverläufe offenlegen.
Banken müssten weiterhin eingeschränkte Berechtigungen durchsetzen, den Zugriff überwachen und Möglichkeiten bieten, die Autorisierung eines Agenten zu widerrufen.
Was das für Bankkunden bedeutet
Kunden sollten es vermeiden, Passwörter für ihr Bankkonto an KI-Tools von Drittanbietern weiterzugeben, und vor der Verbindung ihrer Finanzkonten mit einem Assistenten die Regeln ihrer Bank prüfen. Selbst wenn ein Tool bequeme Automatisierung bietet, kann die Gewährung des Kontozugriffs gegen Bankrichtlinien verstoßen oder persönliche Finanzunterlagen offenlegen.
Die gemeldeten Vorfälle belegen keinen weitverbreiteten Diebstahl oder bestätigte finanzielle Verluste. Sie machen jedoch ein praktisches Problem sichtbar: Ein Kunde kann den Zugriff autorisieren, ohne vollständig zu verstehen, was ein automatisiertes System damit tun könnte.
Banken müssen kontrollieren, was Agenten tun können
Das Blockieren externer Agenten könnte die unmittelbare Angriffsfläche verringern, könnte aber auch legitime Finanztools einschränken, während KI-gestützte Dienste immer verbreiteter werden. Banken werden Wege benötigen, verifizierte Agenten von gewöhnlichen Nutzern zu unterscheiden, Berechtigungen einzuschränken und Protokolle über Aktionen zu führen, die im Namen der Kunden ausgeführt wurden.
Strand erwartet, dass Angreifer KI einsetzen werden, um Schwachstellen beim Kontozugriff in großem Maßstab zu testen. Das unterstreicht die Notwendigkeit, Schutzmaßnahmen sicher zu prüfen. Carberry warnte außerdem, dass sich ähnliche Risiken durch automatisierten Zugriff auf Gesundheitsdaten ausweiten könnten.
Die langfristige Herausforderung für Banken besteht nicht einfach darin, KI fernzuhalten. Sie müssen sicherstellen, dass der Zugriff eines zugelassenen Agenten begrenzt und nachvollziehbar ist und der tatsächlichen Absicht des Kunden entspricht.
Weitere Nachrichten: Die Entwickler-Hosting-Plattform Zeabur legte eine Sicherheitsverletzung offen, durch die Informationen aus 321.810 Konten und mehr als 3,2 Millionen Datensätzen von Umgebungsvariablen offengelegt wurden.