Während Unternehmen künstliche Intelligenz (KI) in rasantem Tempo einsetzen, versuchen Sicherheitsteams fieberhaft zu verstehen, wie Frontier-KI-Modelle die Cyberrisiken von Unternehmen verändern könnten.
Statt sich auf theoretische Szenarien zu verlassen, verbrachte Zscaler 90 Tage damit, Frontier-KI-Modelle von Anthropic und OpenAI einzusetzen, um Dutzende realer Unternehmensumgebungen aus der Perspektive eines Angreifers zu bewerten.
Die Ergebnisse legen nahe, dass KI die Ausnutzung bestehender Sicherheitsschwachstellen beschleunigt, anstatt vollständig neue zu schaffen.
Laut Zscaler wies jede untersuchte Organisation kritische Schwachstellen auf, die Angreifer mit KI-Unterstützung ausnutzen könnten.
Das Unternehmen berichtete, dass 100 % der Organisationen einer nicht kontrollierten KI-Exposition ausgesetzt waren, 90 % VPN-Appliances weiterhin dem Internet aussetzten und 53 % internetseitig erreichbare Systeme mit Schwachstellen aus dem CISA-KEV-Katalog betrieben.
Bei den Angriffstests lag die mittlere Zeit bis zum ersten kritischen Sicherheitsversagen bei nur 16 Minuten, während 90 % der Umgebungen innerhalb von weniger als 90 Minuten kompromittiert wurden.
- Wichtigste Erkenntnisse zu den Ergebnissen der Zscaler-Analyse der KI-Sicherheitslücken
- KI beschleunigt die Ausnutzung bestehender Schwachstellen
- Altlasten werden zu größeren KI-Risiken
- Die Umsetzung von Zero Trust zeichnet widerstandsfähige Organisationen aus
- Governance muss mit der KI-Einführung Schritt halten
Wichtigste Erkenntnisse zu den Ergebnissen der Zscaler-Analyse der KI-Sicherheitslücken
- Bei 100 % der untersuchten Organisationen bestand eine nicht kontrollierte KI-Exposition, 90 % setzten VPN-Appliances dem Internet aus und 53 % verfügten über internetseitig erreichbare CISA Known Exploited Vulnerabilities (KEVs).
- Bei den Angriffstests lag die mittlere Zeit bis zum ersten kritischen Sicherheitsversagen bei 16 Minuten, während 90 % der Umgebungen innerhalb von weniger als 90 Minuten kompromittiert wurden.
- Frontier-KI verknüpfte bestehende Sicherheitsschwachstellen rasch zu vollständigen Angriffspfaden, anstatt auf neue Zero-Day-Exploits zurückzugreifen.
- Organisationen mit robusteren Zero-Trust-Architekturen, TLS-Inspektion und kontinuierlicher Überwachung zeigten eine deutlich höhere Widerstandsfähigkeit.
- CISOs sollten kontinuierliche KI-Governance, Exposure Management, Identitätssicherheit und regelmäßige KI-Red-Team-Übungen priorisieren, um mit den von KI unterstützten Bedrohungen Schritt zu halten.
KI beschleunigt die Ausnutzung bestehender Schwachstellen
Deepen Desai, Chief Security Officer and EVP of Research and Development bei Zscaler, erklärte, dass Unternehmen KI-Dienste bereitstellen, ohne dieselben Sicherheitskontrollen anzuwenden, die sie für andere Unternehmensanwendungen erwarten.
„Es sieht so aus, als würden KI-Tools ohne angemessene Sicherheitsvorkehrungen online gestellt – ohne Login, ohne Identitätsprüfung und ohne echte Aufsicht“, sagte Desai in einer E-Mail an eSecurityPlanet.
Er fügte hinzu: „Das geschieht so häufig, weil Unternehmen KI schnell einführen wollen und Sicherheitsteams in der Regel nicht früh genug eingebunden werden, um Schritt zu halten.“
Statt auf ausgeklügelte Zero-Day-Schwachstellen zurückzugreifen, identifizieren Frontier-KI-Modelle rasch mehrere Schwachstellen mit geringem Risiko und kombinieren sie zu erfolgreichen Angriffspfaden.
„Meistens fehlen die Sicherheitstools nicht vollständig – vielmehr bleiben zu viele Lücken offen, durch die sich Angreifer schnell bewegen können“, erklärte Desai. „KI kann Schwachstellen inzwischen schnell finden, aber noch wichtiger ist, dass sie kleine Schwachstellen miteinander verknüpfen kann, die für sich genommen möglicherweise nicht kritisch wirken.“
Er verglich den Vorgang mit jemandem, der ein Büro betritt, ohne ein einziges Schloss zu knacken: indem er durch einen Eingang hinter einer anderen Person hineinschlüpft, an einem anderen Ort einen unbeaufsichtigten Ausweis findet und sich durch schlecht überwachte Bereiche bewegt.
Für sich genommen wirkt keines dieser Probleme katastrophal, zusammen ermöglichen sie jedoch einen erfolgreichen Einbruch. KI führt diesen Vorgang kontinuierlich und mit Maschinengeschwindigkeit aus.
Altlasten werden zu größeren KI-Risiken
Die Untersuchung zeigt außerdem, wie lang bestehende Sicherheitsprobleme deutlich gefährlicher werden, wenn KI Aufklärung und Ausnutzung automatisiert.
Desai verglich den Wandel mit einer Zunahme biologischer Viren: Die Biologie habe sich nicht verändert, wohl aber die Geschwindigkeit und das Ausmaß der Verbreitung.
Ebenso bleiben die zugrunde liegenden Sicherheitsschwachstellen unverändert, während KI die Geschwindigkeit, mit der Angreifer sie ausnutzen können, drastisch erhöht.
„Altbekannte Schwachstellen wie exponierte Appliances sind nichts Neues“, sagte er. „Neu ist, dass Angreifer mit KI-Unterstützung sie in einem Tempo identifizieren, testen und gemeinsam ausnutzen können, das die Risikolage grundlegend verändert.“
Auch Identitäten erwiesen sich bei den Bewertungen als einer der wichtigsten Angriffsvektoren. Laut Desai zielten Frontier-KI-Modelle konsequent auf kompromittierte Zugangsdaten und übermäßige Benutzerberechtigungen.
„In mehr als 90 % der Organisationen eröffnet ein gestohlener Zugang einen Weg zu Tausenden von Systemen oder Anwendungen, weil die Segmentierung nicht ausgereift genug ist“, sagte er.
Die Umsetzung von Zero Trust zeichnet widerstandsfähige Organisationen aus
Eine Erkenntnis, die die Zscaler-Forscher überraschte, war, dass viele Organisationen glaubten, grundlegende Sicherheitskontrollen bereits umgesetzt zu haben, KI-gestützte Tests jedoch wiederholt ausnutzbare Lücken aufdeckten.
„Die größte Überraschung ist, wie viel Angriffsfläche in den Grundlagen besteht: Inspektionsrichtlinien, die Reduzierung der externen Angriffsfläche und laterale Bewegungen“, sagte Desai. „Das sind keine neuen Konzepte, aber KI hat die Messlatte für ihre korrekte Umsetzung dramatisch höher gelegt.“
Organisationen, die eine höhere Widerstandsfähigkeit zeigten, setzten nicht unbedingt völlig neue Technologien ein.
Stattdessen setzten sie etablierte Sicherheitspraktiken konsequent um, darunter die Inspektion von Transport Layer Security (TLS), Zero-Trust-Architekturen, verbesserte Erkennungsfunktionen und eine stärkere Überwachung verdächtiger Aktivitäten.
„Ermutigend ist, dass viele Unternehmen dies bereits heute mit den vorhandenen Mitteln umsetzen können“, sagte Desai.
Governance muss mit der KI-Einführung Schritt halten
Da der Einsatz von KI in immer mehr Unternehmensbereichen zunimmt, empfiehlt Desai CISOs, zunächst Transparenz darüber zu schaffen, wo KI-Dienste betrieben werden, bevor sie Identitätskontrollen verstärken und unnötige Internet-Exposition reduzieren.
Außerdem betonte er die Bedeutung kontinuierlicher Governance durch laufende Überwachung der Angriffsfläche, KI-Red-Teaming, stärkere Segmentierung, Maßnahmen zur Verhinderung von Datenverlust, Täuschungstechnologien sowie zur Wiederherstellung nach Vorfällen getestete Pläne.
Mit Blick auf die Zukunft ist Desai der Ansicht, dass Organisationen ihren Planungshorizont von Jahren auf Wochen verkürzen sollten, weil sich die KI-Fähigkeiten so schnell weiterentwickeln.
„Ich würde Organisationen empfehlen, in Zeiträumen von 12–24 Wochen statt Monaten zu denken“, sagte er. „Bedrohungsakteure werden sich Frontier-KI-Modelle beschaffen, und dies ist kein theoretisches Problem mehr.“
Sicherheitsverantwortlichen empfiehlt er, sich auf zwei Fragen zu konzentrieren: Wie sieht die Organisation aus der Perspektive eines von KI unterstützten Angreifers aus, und wie weit könnte sich ein Angreifer bewegen, wenn ein einziges internetseitig erreichbares System oder eine Identität kompromittiert würde?
Organisationen, die beide Fragen nicht mit Sicherheit beantworten können, weisen möglicherweise erhebliche architektonische und operative Lücken auf, die Angreifer mit KI-Unterstützung rasch ausnutzen können.