Finanzinstitute setzen KI rasant ein, doch neue Forschungsergebnisse legen nahe, dass viele Banken möglicherweise die falsche Ebene ihres Technologie-Stacks absichern.
Forscher von Liquibase warnen, dass Organisationen zwar stark auf KI-Modelle und APIs fokussieren, die Datenbankebene jedoch zu den am stärksten exponierten Bereichen moderner Finanzinfrastrukturen gehören könnte.
„Die Governance für Agenten muss sich gleichzeitig in drei Richtungen bewegen“, sagte Adam Markowitz, CEO und Mitgründer von Drata, in einer E-Mail an eSecurityPlanet.
Er erklärte: „Im Stack nach unten, dorthin, wo unumkehrbare Aktionen stattfinden. Im Stack nach oben, zu den Compliance-Frameworks, die definieren, was eine gesteuerte Aktion bedeutet. Und quer durch den Stack, zu jedem System, in dem Agenten agieren.“
Adam fügte hinzu: „Der Großteil der Branche arbeitet noch immer jeweils nur in eine Richtung. Dieses Gespräch muss aufholen.“
Wichtigste Erkenntnisse zu KI-Risiken im Bankwesen
- Forscher warnen, dass Banken die Datenbankebene möglicherweise übersehen, während sie ihre Sicherheitsmaßnahmen für KI auf Modelle und APIs konzentrieren.
- Autonome KI-Agenten könnten Datensätze, Workflows und Geschäftslogik auf eine Weise manipulieren, die legitim erscheint und nur schwer zu erkennen ist.
- Durch KI verursachte Zustandskorruption könnte operative, Compliance- und forensische Herausforderungen für Frameworks wie SOX, PCI DSS und SOC 2 schaffen.
- Vertrauenswürdige Zugangsdaten, genehmigte Workflows und legitime Automatisierungstools könnten dazu führen, dass sich bösartige KI-Aktivitäten in den normalen Betrieb einfügen.
- Finanzorganisationen werden aufgefordert, eine stärkere Datenbank-Governance, Zero-Trust-Kontrollen, unveränderliche Protokollierung und kontinuierliche Überwachung einzuführen.
KI-Datenbankrisiken und empfohlene Kontrollen
| KI-Risikobereich | Mögliche Auswirkungen | Empfohlene Kontrollen |
|---|---|---|
| Unbefugte Schemaänderungen | Beschädigte Finanzdaten und Fehler in der Berichterstattung | Durch Richtlinien erzwungenes Änderungsmanagement und Genehmigungen |
| Manipulierte Transaktionsabläufe | Betrug, Probleme bei der Abstimmung, Betriebsunterbrechungen | Kontinuierliche Überwachung und Erkennung von Anomalien |
| Missbrauch gültiger Zugangsdaten durch KI | Schwer erkennbare bösartige Aktivitäten | Zero Trust und Zugriff nach dem Prinzip der geringsten Privilegien |
| Eingeschränkte Transparenz bei Audits | Herausforderungen bei Compliance und forensischen Untersuchungen | Unveränderliche Protokollierung und kryptografische Audit-Trails |
| Übermäßiger KI-Zugriff auf Produktivsysteme | Erhöhte Anfälligkeit für operative Risiken | Segmentierung von Datenbanken und eingeschränkter Schreibzugriff |
| Durch KI verursachte Zustandskorruption | Langfristige Probleme bei Integrität und Vertrauen | Tests der Wiederherstellung und Planung der betrieblichen Resilienz |
KI schafft neue Risiken für Finanzsysteme
Viele Finanzinstitute konzentrieren sich auf KI-Governance bei Modellen und APIs, schenken den Datenbanken, in denen kritische Finanzvorgänge und -daten gespeichert sind, jedoch weniger Aufmerksamkeit.
Forscher warnten, dass dadurch ein erheblicher blinder Fleck entsteht, da KI-Systeme autonomer werden und zunehmend in Banking-Umgebungen von Unternehmen integriert sind.
Die Ergebnisse der Forscher beschreiben KI-Systeme der Mythos-Klasse als autonome Agenten, die Schwachstellen identifizieren, Angriffsketten bilden und Aktionen in Unternehmensumgebungen mit Maschinengeschwindigkeit ausführen können.
Dies verändert ihrer Einschätzung nach die Art des operationellen Risikos für Finanzinstitute, da die primäre Bedrohung nicht mehr auf herkömmlichen Datendiebstahl oder Störungen im Stil von Ransomware beschränkt ist.
Das Risiko einer durch KI verursachten Zustandskorruption
Stattdessen warnen die Forscher, dass sich KI-gesteuerte Angriffe zunehmend auf eine unauffällige Zustandskorruption konzentrieren könnten, darunter unbefugte Schemaänderungen, manipulierte Datensätze und veränderte Geschäftslogik, die legitim erscheinen.
In Banking-Umgebungen dienen Datenbanken sowohl als Ausführungspunkt für KI-gesteuerte Aktionen als auch als dauerhafte Aufzeichnung dieser Aktionen.
Die Forscher erklärten, dass autonome KI-Agenten Transaktionsabläufe manipulieren, Geschäftskontrollen umgehen oder Inkonsistenzen erzeugen könnten, die nur schwer zu erkennen und nachgelagert abzugleichen sind.
Da KI-gesteuerte Aktionen vertrauenswürdige Apps, genehmigte Workflows und gültige Zugangsdaten verwenden können, könnten sich bösartige Aktivitäten in den normalen Betrieb einfügen und für Sicherheitsteams schwerer erkennbar werden.
Herausforderungen bei Compliance und Verantwortlichkeit
Die Ergebnisse werfen Fragen zur KI-Governance, zur Sicherheit der Software-Lieferkette und zur forensischen Verantwortlichkeit auf, insbesondere bei Compliance-Frameworks wie SOX, PCI DSS und SOC 2, die auf vertrauenswürdigen Audit-Trails, Änderungsmanagement und Datenintegrität beruhen.
Die Forscher erklärten, dass Governance-Kontrollen mit zunehmender Autonomie von KI-Systemen in Unternehmensumgebungen tiefer in die Datenbankebene hineinreichen müssen, um die operationelle Verantwortlichkeit zu wahren und Audits sowie Untersuchungen zu unterstützen.
Die KI-Exposition reduzieren
Um die Risiken der KI-Einführung zu senken, sollten Finanzorganisationen stärkere Maßnahmen zur Validierung, Überwachung und Zugriffskontrolle einführen, die Verantwortlichkeit und betriebliche Resilienz verbessern.
- Eine richtlinienbasierte Verwaltung von Datenbankänderungen implementieren und Änderungen vor ihrer Ausführung validieren, statt sich ausschließlich auf manuelle Prüfungen zu verlassen.
- Kryptografisch verifizierbare Audit-Trails verwenden, unveränderliche Protokollierung und zentralisierte Governance-Kontrollen, um Verantwortlichkeit und forensische Transparenz zu verbessern.
- Schemaänderungen kontinuierlich überwachen, Transaktionsaktivitäten, Datenbankabfragen und nachgelagerte Zustandsänderungen auf Anzeichen unbefugter Manipulation oder anderes anomales Verhalten.
- Anwenden von Zero Trust und des Prinzips der geringsten Privilegien auf KI-Agenten, automatisierte Workflows, Integrationen von Drittanbietern und sensible Datenbankumgebungen.
- Kritische Datenbanksysteme segmentieren und den direkten Schreibzugriff von KI auf Produktivumgebungen nach Möglichkeit beschränken.
- Identitätsvalidierung, Genehmigungen durch mehrere Parteien und richtlinienbasierte Kontrollen stärken für risikoreiche Schemaänderungen und privilegierte Datenbankoperationen.
- Testen Sie Incident Response, Datenbankwiederherstellung und Pläne für die betriebliche Resilienz , um sicherzustellen, dass Organisationen Ereignisse durch KI-verursachte Zustandskorruption schnell erkennen und sich davon erholen können.
Gemeinsam können diese Maßnahmen Organisationen dabei helfen, betriebliche Resilienz aufzubauen, die Verantwortlichkeit zu stärken und die Anfälligkeit für KI-gesteuerte Manipulation, Beeinträchtigungen der Datenintegrität und nachgelagerte Systemstörungen zu reduzieren.
KI-Betrieb erfordert stärkere Governance
Während sich KI-Systeme von analytischen Assistenten zu Werkzeugen entwickeln, die operative Aufgaben ausführen können, weiten sich Sicherheits- und Governance-Bedenken über das Verhalten von Modellen und die Anwendungssicherheit hinaus auf die zugrunde liegende Infrastruktur und die Datensysteme aus, mit denen KI direkt interagiert.
Die Forscher von Liquibase sagen, dass Organisationen nicht nur KI-Modelle absichern müssen, sondern auch die Datenbanken, Workflows und Unternehmenssysteme, in denen KI-gesteuerte Aktionen den Geschäftsbetrieb und die Compliance beeinflussen können.
Dies unterstreicht auch die Bedeutung von Zero-Trust-Prinzipien, während Organisationen daran arbeiten, den KI-Zugriff zu begrenzen, Aktivitäten kontinuierlich zu validieren und die Risiken der KI-Einführung zu senken.