KI wird zunehmend zu einem Bestandteil realer Cyberangriffe. Sie hilft Bedrohungsakteuren dabei, in Netzwerke einzudringen, Anmeldedaten zu stehlen, sich in Netzwerken zurechtzufinden und wertvolle Ziele zu identifizieren.
Eine Untersuchung von Gambit Security zu drei voneinander unabhängigen Bedrohungsakteuren ergab, dass Angreifer KI während des gesamten Lebenszyklus eines Eindringversuchs integrierten und sie damit über Phishing und die Erstellung von Malware hinaus einsetzten.
„Ein Ergebnis verdient besondere Beachtung. Im ersten Fall kannte der Betreiber die Umgebung des Opfers nicht“, erklärten die Forscher.
Sie erklärten: „Er fragte das [KI-]Modell, welche der Datenbanken am wichtigsten seien. Das Modell stufte sie ein und verwies auf die beiden, deren Verlust sich das Unternehmen am wenigsten leisten konnte.“
Die wichtigsten Erkenntnisse zum Einsatz von KI durch Bedrohungsakteure bei Angriffen
- KI wird zu einem operativen Angriffswerkzeug, das Bedrohungsakteure für Aufklärung, Exploitation, Fehlerbehebung, laterale Bewegungen und die Identifizierung hochwertiger Ziele einsetzen.
- KI kann die Entscheidungsfindung von Angreifern beschleunigen, da Claude Code unbekannte Umgebungen von Opfern analysierte und dem Affiliate von The Gentlemen Systeme und Datenbanken für die Zielauswahl empfahl.
- Der Diebstahl von Anmeldedaten lässt sich in großem Maßstab automatisieren, wobei Zerofot mit KI entwickelten Werkzeugen in weniger als zwei Monaten 2.975 validierte Anmeldedaten von 1.742 Opfer-Hosts sammelte.
- KI kann die Angriffsinfrastruktur unterstützen, wobei Claude Code die operativen Aufgaben von Zerofot übernahm, während RAGE ein LLM direkt in sein Exploit-Framework integrierte.
- Abwehrmaßnahmen müssen schnellere Abläufe der Angreifer berücksichtigen, wodurch Identitätskontrollen, der Schutz von Anmeldedaten, Segmentierung, Monitoring und getestete Pläne zur Reaktion auf Vorfälle immer wichtiger werden.
Wie Bedrohungsakteure KI einsetzen
| Bedrohungsakteur / Kampagne | KI-Tools | Einsatz der KI | Wichtigste Erkenntnis |
|---|---|---|---|
| Affiliate von The Gentlemen | Claude Code | Aufklärung, Exploitation, laterale Bewegungen, Skripterstellung, Systemanalyse und Priorisierung von Zielen | KI half dabei, sich in unbekannten Umgebungen von Opfern zurechtzufinden und hochwertige Systeme und Daten zu identifizieren. |
| Zerofot | Claude Code, OpenAI Codex | Entwicklung von Scannern, Erfassung von Anmeldedaten, Infrastrukturverwaltung, Proxyverwaltung und Fehlerbehebung | KI-gestützte Werkzeuge halfen dabei, 2.975 validierte Anmeldedaten von 1.742 Opfer-Hosts zu sammeln. |
| RAGE | KI-generierter Code, DeepSeek-gestützter AI Orchestrator | Entwicklung von Exploits, Erfassung von Anmeldedaten, Bereitstellung von Kryptomining-Software und Botnet-Betrieb | KI wurde eingesetzt, um Angriffswerkzeuge zu entwickeln, und direkt in das Exploit-Framework integriert. |
Wie Angreifer KI im gesamten Lebenszyklus eines Eindringversuchs einsetzen
Die Ergebnisse zeigen, dass generative KI mehr ist als ein Werkzeug zum Schreiben von Schadcode oder zur Vorbereitung von Phishing-Angriffen.
In allen drei Fällen nutzten Bedrohungsakteure KI, um Aufgaben zu automatisieren, Probleme zu beheben, kompromittierte Umgebungen zu analysieren und ihre nächsten Schritte zu planen.
Statt grundlegend neue Angriffstechniken einzuführen, fungierte KI vor allem als Kraftverstärker: Sie half Angreifern, etablierte Techniken schneller umzusetzen und ihre Operationen an veränderte Umstände anzupassen.
Der Affiliate von The Gentlemen setzt KI während aktiver Eindringversuche ein
Eines der deutlichsten Beispiele betraf einen mutmaßlichen Affiliate der Ransomware-as-a-Service-Operation The Gentlemen (RaaS).
Gambit beobachtete, wie der Bedrohungsakteur Claude Code bei Eindringversuchen in mindestens sechs Organisationen einsetzte, und brachte ihn mit zwei früheren Kompromittierungen in Verbindung.
Die Opfer stammten aus mehreren Branchen und Ländern, darunter ein australisches Energie-versorgungsunternehmen, ein Finanzdienstleistungsunternehmen auf Mauritius, Hersteller in Thailand und den Vereinigten Staaten sowie ein IT-Dienstleistungsunternehmen in Malaysia.
Während dieser Eindringversuche fungierte Claude Code beinahe wie ein interaktiver Assistent für den Angreifer.
Der Betreiber nutzte es, um Aufklärungs- und Exploit-Befehle zu generieren und auszuführen, bösartige Skripte zu erstellen, Firewall-Richtlinien zu ändern und Geschäftssysteme auf für die Operation relevante Informationen zu analysieren.
KI konnte außerdem auf fehlgeschlagene Befehle und Fehler reagieren, indem sie ihren Ansatz anpasste und Alternativen ausprobierte. Das zeigt, wie ein Angreifer ein LLM interaktiv nutzen kann, anstatt lediglich ein Stück Code anzufordern und es manuell auszuführen.
Nachdem er Domänenanmeldedaten und VPN-Zugriff erlangt hatte, nutzte der Betreiber Claude zur Unterstützung bei der Aufklärung und der lateralen Bewegung innerhalb der Netzwerke der Opfer.
Die KI analysierte die Ausgaben von Tools zur Netzwerkaufzählung, identifizierte Systeme, auf denen gestohlene Anmeldedaten administrativen Zugriff ermöglichten, und empfahl potenzielle Ziele wie Domänencontroller, Dateiserver und Backup-Server.
In anderen Fällen analysierte Claude Anwendungsdatenbanken und die Backup-infrastruktur. Dadurch half es dem Angreifer, wertvolle Produktionsdaten zu identifizieren und zu verstehen, wo Backups gespeichert waren.
Zerofot nutzt KI, um in großem Maßstab Anmeldedaten zu erbeuten
Im zweiten Fall zeigte ein als Zerofot bekannter Bedrohungsakteur, wie KI Angreifern dabei helfen kann, bösartige Infrastruktur in großem Maßstab zu entwickeln und zu betreiben.
Der Betreiber nutzte OpenAI Codex und Claude Code, um auto_scan zu entwickeln, einen benutzerdefinierten Scanner und Erntemechanismus für Anmeldedaten, der über das Internet erreichbare Systeme nach offengelegten Konfigurationsdateien, Verzeichnissen und anderen Dateien mit sensiblen Informationen durchsuchte.
Der Scanner extrahierte potenzielle Anmeldedaten und validierte sie bei Diensten wie AWS, OpenAI, Anthropic, GitHub, GitLab, Stripe und anderen Anbietern.
Zerofot häufte eine beträchtliche Menge gestohlener Anmeldedaten an und sammelte zwischen April und Mai 2026 insgesamt 2.975 validierte Schlüssel und Anmeldedaten von 1.742 Opfer-Hosts.
Zu diesen Anmeldedaten gehörten 661 private SSH-Schlüssel, 635 AWS-Zugriffsschlüssel für 214 Konten, 448 Google-Gemini-Schlüssel, 254 OpenAI-Schlüssel, 205 GitHub-Token und 176 Anthropic-Schlüssel.
Die Rolle der KI bei der Zerofot-Operation ging über die bloße Entwicklung des Scanners hinaus.
Claude Code übernahm außerdem IT- und DevOps-Aufgaben, die für den Betrieb der Operation erforderlich waren.
Dazu gehörten die Verwaltung der Scanner-Infrastruktur und von Proxys, die Überprüfung von Netzwerkrouten, die Änderung von Firewall-Konfigurationen und die Fehlerbehebung in der Umgebung zur Erfassung von Anmeldedaten.
Dies verdeutlicht einen weiteren potenziellen Vorteil für Angreifer: KI kann nicht nur den Eindringversuch selbst unterstützen, sondern auch die ihn umgebende Infrastruktur und die zugehörige operative Arbeit.
RAGE integriert KI in ein Exploit-Framework
Im dritten Fall untersuchten Gambit-Forscher RAGE, ein benutzerdefiniertes Python-Framework zum Scannen internetseitiger Dienste, Ausnutzen verwundbarer Bereitstellungen, Ernten von Anmeldedaten und Bereitstellen von Kryptominern.
Das Framework enthielt Module für Ziele wie Redis, Elasticsearch, Docker, Tomcat, Jenkins, Hadoop YARN, Confluence und Supervisord.
Die Gambit-Forscher fanden Hinweise darauf, dass RAGE und viele der dazugehörigen Skripte mit KI generiert worden waren. Dazu gehörten Kommentare und Docstrings, in denen scheinbar das selbstkorrigierende Denken eines Modells in der Ich-Form erhalten geblieben war.
RAGE ging bei der KI-Integration noch einen Schritt weiter und integrierte ein LLM direkt in das Angriffsfamework.
Das Bediener-Dashboard enthielt einen von DeepSeek unterstützten „AI Orchestrator“, der die Betreiber des Mining-Botnetzes beraten sollte.
Zusammengenommen zeigen die drei Fälle, wie Angreifer KI einsetzen, um Eindringversuche durchzuführen, den Diebstahl von Anmeldedaten zu automatisieren und KI-gestützte Angriffs-Frameworks zu entwickeln.
So lässt sich das Risiko durch KI-gestützte Angriffe senken
Organisationen können die Risiken durch KI-gestützte Angriffe senken, indem sie die Sicherheit von Identitäten und Infrastruktur stärken.
- Erzwingen Sie MFA und Zugriffe mit geringsten Berechtigungen für Administratorkonten, Cloud-Identitäten und andere privilegierte Systeme, um die Auswirkungen gestohlener Anmeldedaten zu reduzieren.
- Schützen und rotieren Sie Anmeldedaten und Geheimnisse regelmäßig , indem Sie fest einprogrammierte Anmeldedaten beseitigen, eine zentrale Verwaltung von Geheimnissen einsetzen und nach Möglichkeit kurzlebige Anmeldedaten bevorzugen.
- Reduzieren Sie die Angriffsfläche internetseitiger Dienste , indem Sie Administrationsoberflächen beschränken und Dienste wie VPNs, Redis, Docker und andere extern zugängliche Systeme absichern.
- Segmentieren Sie Netzwerke und schützen Sie kritische Infrastruktur , um laterale Bewegungen zu beschränken und Domänencontroller, Backup-Server, Datenbanken und andere hochwertige Systeme zu isolieren.
- Überwachen Sie auf verdächtige Aktivitäten im Zusammenhang mit Identitäten und Anmeldedaten wie die ungewöhnliche Erstellung von Zugriffsschlüsseln, Rollenübernahmen, das Abrufen von Geheimnissen, Rechteausweitung und abnormale Authentifizierungsversuche.
- Testen Sie Pläne zur Reaktion auf Sicherheitsvorfälle und verwenden Sie Tools zur Angriffssimulation mit Szenarien rund um den Diebstahl von Anmeldedaten, Datenexfiltration und -vernichtung sowie Ransomware.
Zusammengenommen können diese Maßnahmen dazu beitragen, die Auswirkungen eines erfolgreichen Angriffs zu begrenzen und gleichzeitig die Widerstandsfähigkeit gegen KI-gestützte Bedrohungen zu stärken.
Kurz gesagt
Die folgenreichere Veränderung ist die Verdichtung der Abläufe von Angreifern.
Diese Fälle zeigen, dass KI eingesetzt wird, um unbekannte Umgebungen zu interpretieren, fehlgeschlagene Aktionen zu beheben, hochwertige Ziele zu priorisieren und die Angriffsinfrastruktur aufrechtzuerhalten – Aufgaben, die traditionell mehr Zeit und Fachwissen von Bedrohungsakteuren erforderten.
Mit der Verbesserung dieser Fähigkeiten müssen Sicherheitsprogramme möglicherweise ihre Annahmen über die Verweildauer von Angreifern und die Geschwindigkeit ihrer Operationen neu bewerten.
Da sich die Abläufe der Angreifer beschleunigen, kann Zero Trust Organisationen dabei helfen, den Zugriff zu beschränken und die laterale Bewegung nach einer anfänglichen Kompromittierung einzudämmen.