OpenAI ist kürzlich gegen Cyberkriminelle vorgegangen, die seine ChatGPT-Plattform zur Unterstützung von Cyberangriffen ausnutzen.
Das Unternehmen gab bekannt, dass es drei koordinierte Hackerangriffe aus Russland, Nordkorea und China gestört habe, bei denen der Chatbot für bösartige Zwecke eingesetzt wurde, darunter die Erstellung von Malware und Phishing-Kampagnen.
„Diese Konten scheinen mit russischsprachigen kriminellen Gruppen verbunden zu sein, da wir beobachtet haben, wie sie Belege für ihre Aktivitäten in einem Telegram-Kanal veröffentlichten, der diesen Akteuren gewidmet ist“, erklärte OpenAI in seinem Update vom Oktober 2025.
Die dunkle Seite der generativen KI
Diese Entdeckung unterstreicht das Dual-Use-Risiko großer Sprachmodelle (LLMs) wie ChatGPT und anderer leistungsstarker Werkzeuge, die sowohl für legitime Produktivitätsgewinne als auch für Cyberkriminalität eingesetzt werden können.
Der Missbrauch generativer KI für die Entwicklung von Malware, Social-Engineering-Kampagnen, und für den Diebstahl von Informationen stellt für Sicherheitsteams und politische Entscheidungsträger ein wachsendes Problem dar.
Staatliche Hacker nutzen KI-Tools
Bei der ersten gestörten Gruppe handelte es sich um einen russischsprachigen Akteur, der einen Remote-Access-Trojaner (RAT) und einen Anmeldedatendieb entwickelte.
Obwohl ChatGPT sich weigerte, ausdrücklich bösartigen Code zu erzeugen, nutzte der Akteur das Tool zur Erstellung modularer Codefragmente – etwa für Verschleierungsskripte und Routinen zur Datenexfiltration –, die später zu funktionsfähiger Malware kombiniert wurden.
Ein nordkoreanischer Cluster, der Berichten zufolge mit einer im August 2025 von Trellix identifizierten Kampagne in Verbindung steht, nutzte ChatGPT zur Unterstützung bei Malware und Command-and-Control-(C2-)Infrastruktur.
Diese Akteure experimentierten mit Windows- und macOS-Konfigurationen, Phishing-Vorlagen und API-Hooking-Techniken, um diplomatische Einrichtungen und Regierungsbehörden anzugreifen.
Der dritte Cluster, der mit der chinesischen Gruppe UNK_DropPitch verbunden ist, nutzte ChatGPT, um mehrsprachige Phishing-Inhalte zu erstellen und Hintertüren zu entwickeln, die auf den taiwanischen Halbleitersektor abzielten. OpenAI zufolge war diese Gruppe „technisch versiert, aber unausgereift“.
KI verleiht alten Angriffstaktiken neuen Schub
Jeder Akteur versuchte, ChatGPT zur Beschleunigung bestehender Angriffsabläufe einzusetzen, statt neue offensive Fähigkeiten zu entwickeln.
Die russischen Betreiber überarbeiteten ihren Code in mehreren ChatGPT-Sitzungen, um die Funktionalität des RAT zu verfeinern. Nordkoreanische Hacker nutzten die KI, um Phishing-Köder zu simulieren und Skripte zur automatisierten Malware-Bereitstellung zu erstellen.
Unterdessen erstellten mit China verbundene Konten Phishing-Nachrichten auf Englisch, Chinesisch und Japanisch und suchten nach Möglichkeiten, die ferngesteuerte Ausführung über HTTPS-Kanäle zu automatisieren.
Neben diesen drei großen Gruppen identifizierte OpenAI auch kleinere Netzwerke aus Kambodscha, Myanmar und Nigeria, die versuchten, ChatGPT für Online-Betrug und Einflusskampagnen einzusetzen.
Einigen Berichten zufolge versuchten manche mit staatlich unterstützten chinesischen Operationen verbundenen Konten, Social-Media-Daten zu analysieren und Propagandamaterial über ethnische Minderheiten und geopolitische Themen zu erstellen.
Das Missbrauchsrisiko von KI eindämmen
Zu den Maßnahmen von OpenAI gehörten die Sperrung der betreffenden Konten, eine Verschärfung der Überwachungssysteme und der Austausch von Erkenntnissen mit Sicherheitspartnern.
Das Unternehmen bekräftigte, dass seine LLMs mit mehrschichtigen Schutzvorkehrungen ausgestattet sind, um bösartige Prompts zu blockieren, auch wenn hartnäckige Akteure gelegentlich versuchen, diese Einschränkungen durch die Erstellung von Codefragmenten zu umgehen.
Um die Gefährdung durch KI-gestützte Bedrohungen zu verringern und die allgemeine Sicherheitslage zu stärken, sollten Organisationen die folgenden Maßnahmen umsetzen:
- Bedrohungen überwachen und erkennen: IOCs, RATs und KI-gestützte Angriffe mithilfe von EDR- und SIEM-Tools verfolgen.
- Zugriffskontrollen durchsetzen: Das Prinzip der geringsten Privilegien anwenden, MFA und Netzwerksegmentierung einsetzen, um laterale Bewegungen einzuschränken.
- Systeme absichern: Sichere Entwicklungs- und Endgeräteumgebungen schaffen, Apps per Allowlist freigeben und Abhängigkeiten aktualisieren.
- KI-Nutzung steuern: KI-Richtlinien festlegen, Aktivitäten überwachen und Prompts zur Nachvollziehbarkeit protokollieren.
- Mitarbeiter schulen: Mitarbeitende darin schulen, verdächtige Phishing-Nachrichten zu erkennen.
- Zusammenarbeiten und testen: Bedrohungsinformationen teilen und auf KI fokussierte Red-Team- und Übungen zur Reaktion auf Sicherheitsvorfälle durchführen.
Der Bericht von OpenAI zeigt, wie böswillige Akteure „KI an alte Vorgehensweisen anschrauben“, um schneller vorzugehen – nicht unbedingt, um Innovationen hervorzubringen.
Da sich die Fähigkeiten generativer KI in allen Branchen verankern, müssen Verteidiger davon ausgehen, dass Angreifer ähnliche Tools für Aufklärung, Unterstützung beim Programmieren und psychologische Manipulation einsetzen werden.
Da Angreifer zunehmend KI für Täuschung und Manipulation einsetzen, sind Tools zur Deepfake-Erkennung zu einer kritischen Verteidigungslinie geworden.