Ein in China entwickeltes KI-Tool für Penetrationstests namens ARTEX wurde auf einer Infrastruktur gefunden, die für Angriffe auf japanische Unternehmen genutzt wurde. Dies weckt Bedenken darüber, wie legitime Sicherheitstools für Cyberkriminalität zweckentfremdet werden können.
Das japanische Cybersicherheitsunternehmen GMO Cybersecurity by Ierae veröffentlichte die Erkenntnisse am 19. Oktober. Bei seiner Untersuchung wurde ARTEX auf einer Angriffsinfrastruktur entdeckt, die auf etwa 20 japanische Unternehmen zielte. Anschließend wurden sechs weitere KI-gestützte Angriffsserver gefunden. Acht der angegriffenen Unternehmen hatten im September und Oktober öffentlich Sicherheitsverletzungen offengelegt.
Die Ergebnisse folgen auf die Untersuchung von CrowdStrikezur Nutzung von ARTEX gegen südkoreanische Finanzinstitute. Allerdings konnten die Ermittler nicht feststellen, dass in beiden Ländern dieselben Angreifer aktiv waren.
ARTEX auf Infrastruktur gefunden, die auf japanische Unternehmen zielte
ARTEX ist ein KI-gestütztes Penetrationstest-System, das Schwachstellen identifizieren und Sicherheitsbewertungen unterstützen soll. Seine Fähigkeiten können jedoch auch missbraucht werden, um Teile eines Eindringens zu automatisieren.
Die Untersuchung von GMO identifizierte eine Angriffsinfrastruktur, die auf etwa 20 japanische Unternehmen zielte, darunter neun Websites aus derselben Branche.
Anschließend entdeckten die Forscher sechs weitere KI-gestützte Angriffsserver, die hauptsächlich auf japanische Organisationen zielten. Zu den betroffenen Branchen gehörten Versicherungen, Finanzwesen, Logistik, E-Commerce, Einzelhandel und Bildung.
Wichtig ist, dass GMO ARTEX ausdrücklich auf der ursprünglichen Infrastruktur identifizierte. Die Erkenntnisse belegen nicht, dass ARTEX auf jedem weiteren Server eingesetzt wurde.
Die Untersuchung identifizierte außerdem acht angegriffene Unternehmen, die im September und Oktober öffentlich Sicherheitsverletzungen offengelegt hatten. GMO geht davon aus, dass mehrere Vorfälle mit derselben Angreifergruppe in Verbindung standen, und teilte seine Erkenntnisse mit den Strafverfolgungsbehörden.
Diese Erkenntnisse erweitern die regionalen Bedenken, die bereits durch KI-verknüpfte Angriffe auf südkoreanische Finanzinstitute.
Weder die chinesische Herkunft des Tools noch sein Auftauchen auf einer Angriffsinfrastruktur belegen, dass die Betreiber aus China stammten oder im Auftrag einer Regierung handelten.
JPCERT/CC dokumentiert KI-gestützte API-Angriffe
Eine separate Untersuchung der japanischen nationalen Organisation für die Reaktion auf Sicherheitsvorfälle, JPCERT/CC, identifizierte KI-gestützte Angriffe auf japanische Organisationen sowie auf Dienste, die für Nutzer außerhalb Japans bestimmt waren.
Die Forscher bestätigten, dass die Angreifer KI nutzten, um nach bekannten Schwachstellen zu suchen und Angriffe über Programmierschnittstellen (APIs) durchzuführen.
Eine Technik bestand darin, Android-App-Pakete zu analysieren, um APIs zu identifizieren und sie auf Schwachstellen zu testen, darunter serverseitige Anforderungsfälschung (SSRF).
Die Ermittler fanden Dateien, die mit Blutter und jadx in Verbindung standen – Tools für das Reverse Engineering von Flutter- und Android-Anwendungen. Weitere Beweise umfassten Skripte für SSRF-Tests.
Auf einem separaten Server, der nicht direkt mit den untersuchten Angriffen in Verbindung stand, fand JPCERT/CC Hinweise auf versuchte Umgehungen der Endpoint-Erkennung sowie Webshells, die vermutlich innerhalb eines angegriffenen Netzwerks eingesetzt worden waren.
JPCERT/CC identifizierte ARTEX in seinem Bericht nicht und stellte nicht fest, dass seine Erkenntnisse dieselben von GMO untersuchten Betreiber betrafen.
Die Behörde verwies außerdem auf unabhängige Sicherheitsforschung, die zeigte, wie ein eingebetteter privater RSA-Schlüssel und die Logik zum Signieren von Anwendungen aus einer Flutter-App extrahiert werden konnten, um authentifizierte API-Anfragen nachzubilden. Diese Demonstration wurde nicht als bestätigter Schritt bei den Angriffen in Japan dargestellt.
Sicherheitsmaßnahmen für Organisationen
Die von JPCERT/CC dokumentierten Angriffstechniken setzen insbesondere Organisationen unter Druck, die APIs über mobile Anwendungen zugänglich machen.
Zu den Empfehlungen gehören:
- Anwendungsgeheimnisse schützen: Niemals private Schlüssel oder langfristig gültige Zugangsdaten in mobile Anwendungen einbetten.
- Autorisierung serverseitig durchsetzen: Benutzeridentitäten und Berechtigungen unabhängig von Signierung oder Verschleierung auf Anwendungsebene validieren.
- API-Aktivitäten überwachen: Ratenbegrenzungen anwenden und ungewöhnliche Anfragemuster untersuchen.
- SSRF-Angriffsfläche begrenzen: Die für APIs zugänglichen externen Ziele begrenzen und Weiterleitungen validieren.
- Verdächtige Infrastruktur untersuchen: Bei der Untersuchung eines möglichen unbefugten Zugriffs relevante Protokolle und Indikatoren überprüfen.
Diese Vorsichtsmaßnahmen ergänzen umfassendere Abwehrmaßnahmen gegen KI-gestützte Cyberangriffe, insbesondere wenn automatisierte Tools wiederholt öffentlich zugängliche Dienste prüfen können.
Was weiterhin unbestätigt ist
Die Erkenntnisse von GMO belegen den Einsatz von ARTEX auf einer Angriffsinfrastruktur, die auf japanische Unternehmen zielte. Die Identitäten der Betreiber sind jedoch weiterhin unbekannt.
CrowdStrike dokumentierte unabhängig davon den Einsatz von ARTEX bei Angriffen auf südkoreanische Finanzinstitute. Bei seiner Untersuchung wurden Konfigurationsdateien von KI-Agenten und Sitzungsverläufe identifiziert, die Kampagne jedoch keinem namentlich bekannten Bedrohungsakteur zugeschrieben.
Die beiden Untersuchungen belegen den Einsatz desselben Tools bei getrennten regionalen Angriffen, nicht jedoch einen gemeinsamen Betreiber.
Für japanische Organisationen besteht die unmittelbare Priorität darin, zugängliche Anwendungen und APIs auf Schwachstellen zu untersuchen, die Angreifer ausnutzen können – unabhängig davon, ob diese Angriffe ARTEX oder ein anderes automatisiertes Tool involvieren.
Auch lesenswert: Die KI-Hacking-Initiative der US Armywirft zusätzliche Fragen zur Kontrolle autonomer offensiver Sicherheitstools auf.