Mutmaßlich mit China verbundene Hacker betreiben KI-Modelle in Cloud-Umgebungen, in die sie bereits eingedrungen sind.
Die Google Threat Intelligence Group vermutet, dass UNC6508, eine mit China verbundene Spionagegruppe, die nordamerikanische akademische, medizinische und militärische Forschungseinrichtungen ins Visier genommen hat, für diese Aktivitäten verantwortlich ist.
Frühere Untersuchungen ergaben, dass dieselbe Gruppe mehr als ein Jahr lang Zugriff auf einige Forschungsnetzwerke aufrechterhielt.
Ein lokales KI-Modell hielt die Rechenlast in der Cloud des Opfers
Mutmaßliche Betreiber installierten laut der aktuellen GTIG-Forschung zu KI-Bedrohungen. Vereinfacht gesagt installierten sie ein herunterladbares Modell, das auf den Rechenressourcen des Opfers laufen konnte, anstatt Anfragen an einen externen KI-Dienst zu senden.
Durch den lokalen Betrieb konnten die Angreifer Rechenleistung nutzen, die ihnen nicht gehörte, und einen Teil der Überwachung umgehen, die kommerzielle KI-Dienste ermöglichen. Die Erkennung hing dadurch stärker von den eigenen Cloud-Sicherheitskontrollen des Opfers ab.
Den Forschern zufolge hat UNC6508 auch proprietäre KI-Forschung ins Visier genommen. Das verbindet die Aktivitäten in der Cloud mit dem übergeordneten Interesse der Gruppe an KI.
Langfristiger Zugriff zeigt die Vorgehensweise von UNC6508
Eine frühere Untersuchung von UNC6508 durch Google führte Angriffe auf nordamerikanische Forschungseinrichtungen bis ins Jahr 2023 zurück. Die Betreiber nahmen wiederholt REDCap-Systeme ins Visier, die für medizinische und wissenschaftliche Forschung eingesetzt werden, und installierten bei einem dokumentierten Angriff eine maßgeschneiderte Schadsoftware namens INFINITERED, um Zugangsdaten abzugreifen und Softwareaktualisierungen zu überstehen.
Einige Eindringversuche blieben mehr als ein Jahr lang unentdeckt.Gestohlene Zugangsdaten verschafften den Angreifern später Zugriff auf ein Administratorkonto des Unternehmens. Dort missbrauchten sie legitime E-Mail-Regeln, um ausgewählte Nachrichten unbemerkt an ein von den Angreifern kontrolliertes Konto weiterzuleiten.
Die Angreifer leiteten ihre Aktivitäten außerdem über eine Infrastruktur in den USA, um den schädlichen Datenverkehr schwerer von normaler Nutzung unterscheidbar zu machen.
Google störte später die mit der Kampagne verbundene Infrastruktur und benachrichtigte die betroffenen Organisationen.
Sicherheitsteams in der Forschung sollten unerklärliche Cloud-Nutzung als verdächtig behandeln
Für Universitäten, medizinische Forschungszentren und ähnliche Organisationen sollte ungewöhnliche Cloud-Aktivität als mögliches Sicherheitsproblem untersucht werden, nicht nur als Kostenproblem. Forschungsumgebungen verbrauchen ohnehin erhebliche Rechenressourcen, sodass unbefugte KI-Workloads leichter übersehen werden können.
- Ungewöhnliche Rechenleistung einem bekannten Besitzer zuordnen. Plötzliche GPU-Nutzung, neue Cloud-Server oder unerwartete Kostensteigerungen sollten sich einem genehmigten Projekt und Benutzer zuordnen lassen. Unerklärliche Aktivitäten verdienen eine Sicherheitsüberprüfung.
- Überprüfen, was ein kompromittiertes Konto geändert hat. Das Zurücksetzen eines Passworts entfernt keine Workloads oder Einstellungen, die vor der Absicherung des Kontos erstellt wurden. Prüfen Sie auf neue Server, geplante Jobs, Änderungen an Administratorrechten und unbekannte Regeln zur E-Mail-Weiterleitung.
- Nicht nur Anmeldewarnungen prüfen. Gültige Zugangsdaten können die Aktivitäten von Angreifern legitim erscheinen lassen. Überwachung der Sicherheit von Cloud-Workloads kann dabei helfen, Aktivitäten zu erkennen, die außerhalb der normalen Nutzung liegen, selbst wenn die Authentifizierung routinemäßig aussieht.
- Zugriff eindämmen, bevor Ressourcen der Angreifer entfernt werden. Aktive Sitzungen widerrufen und offengelegte Zugangsdaten austauschen, bevor mit der Bereinigung begonnen wird. Starke Zugriffskontrollen können die Wahrscheinlichkeit verringern, dass kompromittierte Identitäten erneut verwendet werden.
Das Auffinden gestohlener Zugangsdaten sollte die Untersuchung ausweiten. Sicherheitsteams müssen feststellen, ob auf Informationen zugegriffen, Einstellungen geändert oder Cloud-Ressourcen nach dem Angriff genutzt wurden.
Weitere Nachrichten: Ein KI-gestützter WeChat-Exploit könnte sich von einem kompromittierten Kontakt zum nächsten ausbreiten und damit eine Plattform mit mehr als einer Milliarde Nutzern potenziell gefährden.