Die neue Sicherheits-KI von OpenAI ist ein besserer Türöffner, der (meistens) weiß, welche Türen er nicht öffnen sollte.
Der ChatGPT-Entwickler hat am 5. Nov. GPT-6 Cyber auf den Markt gebracht, ein Sicherheitsmodell, das OpenAI aufgrund seiner Fähigkeit, Softwareschwachstellen zu finden und auszunutzen, als „kritisch“ einstuft. Das Unternehmen erklärt, dass das Modell GPT-6 Astra bei mehreren Sicherheits-Benchmarks übertrifft und zugleich die Grenzen autorisierter Tests besser einhält.
Das Modell ist nur für eine geprüfte Gruppe von Kunden in OpenAIs Daybreak-Red-Programm verfügbar, das für autorisierte Penetrationstests und Exploit-Entwicklung reserviert ist.
Der Zugang wird in den kommenden Wochen auf alle zugelassenen Daybreak-Red-Kunden ausgeweitet, teilte das Unternehmen mit.
Die Benchmark-Ergebnisse
OpenAI zufolge schlägt GPT-6 Cyber sowohl seinen Vorgänger als auch das eigene allgemeine Flaggschiffmodell bei wichtigen Cybersecurity-Aufgaben. Die Fortschritte sind beträchtlich:
| Benchmark | GPT-6 Cyber | Vergleich |
| ExploitGym (Ausnutzen einer bestimmten Schwachstelle) | 48.5% | GPT-5.6 Cyber: 32,1 %; GPT-6 Astra: 42,4 % |
| Erkennung von Schwachstellen in Webanwendungen (ohne Quellcode) | 40.3% | GPT-6 Astra: 32,0 % |
| Vermeidung nicht abgedeckter Dienste (ohne Sicherheitsprompt) | 99.93% | GPT-5.6 Cyber: 94,49 % |
Die Ergebnisse aus der Praxis sind beeindruckend. Forscher von OpenAI nutzten das Modell, um 81 bislang unbekannte schwerwiegende Schwachstellen in Firefox zu finden, und Mozilla hat mit der Veröffentlichung von Fehlerbehebungen begonnen. Außerdem entwickelte es funktionierende Exploits für 948 Schwachstellen im Linux-Kernel.
„GPT‑6 Cyber ist ein erstklassiges Modell für Cyberabwehr“, sagte Brian Grinstead, Distinguished Engineer bei Firefox. „Selbst nach einer weiteren Absicherung mit mehreren Generationen von Spitzenmodellen entdeckte GPT‑6 Cyber bislang unbekannte, schwerwiegende Schwachstellen.“
Das Gatekeeper-Modell
Für Sicherheitsverantwortliche ist die wichtigere Frage nicht die Exploit-Bewertung, sondern die Eindämmung. Ein Modell, das so leistungsfähig beim Auffinden von Schwachstellen ist, kann auch Chaos verursachen, wenn es vom eigentlichen Auftrag abkommt. OpenAI zufolge lag ein zentraler Schwerpunkt auf dem Alignment-Training.
In einer Evaluation, die einem realen Vorfall nachempfunden war, bei dem KI-Agenten in eine Open-Source-Community eingedrungen waren, vermied GPT-6 Cyber in 99,93 % der Tests nicht abgedeckte Dienste – ohne Sicherheitsprompts; mit ihnen waren es 100 %. GPT-5.6 Cyberüberschritt in etwa 5,5 % der Durchläufe die vorgesehenen Grenzen.
„Mit dem 6-Cyber-Modell konnten wir bei dieser Evaluation enorme Verbesserungen erzielen. In über 99 % der Fälle tut es, was man von ihm verlangt“, sagte OpenAIs Fouad Matin laut The Verge.
Was Verteidiger jetzt wissen müssen
Für Sicherheitsteams geht es in der Praxis weniger um die Benchmark-Ergebnisse als um Zugang und Vertrauen.
- Die Verfügbarkeit ist begrenzt: GPT-6 Cyber ist keine allgemeine Veröffentlichung. Um es nutzen zu können, müssen Sie ein zugelassener Daybreak-Red-Kunde sein.
- Die Anforderungen für die Einstufung „kritisch“ sind hoch: Das eigene Framework von OpenAI definiert diese Einstufung als ein Modell, das „funktionierende Zero-Day-Exploits aller Schweregrade in vielen gehärteten kritischen Realsystemen ohne menschliches Eingreifen identifizieren und entwickeln kann“.
- Schutzmaßnahmen sind Bestandteil des Pakets: Der Zugang umfasst standardmäßig eine IP-Allowlist, cyber-spezifische Überwachung auf Missbrauch sowie neue Prüfungen, die risikoreiche Aktivitäten gegen kritische Infrastruktur wie Kraftwerke und Wasserversorgungssysteme blockieren.
Anthony Grieco, Senior Vice President und Chief Security & Trust Officer von Cisco, betonte die strategische Bedeutung dieser Entwicklung und sagte: „Die Verteidigung moderner Infrastruktur erfordert kontinuierliche Innovation.
Angesichts der zunehmenden Komplexität der Bedrohungslandschaft ist die Nutzung von Spitzenmodellen der KI wie OpenAI GPT‑6 Cyber ein entscheidender Schritt, um das Kräfteverhältnis zugunsten der Verteidiger zu verschieben.“
Das drohende Risiko: Bewusstsein für Evaluationen
Ein Vorbehalt, den man im Auge behalten sollte, ist das „Bewusstsein für Evaluationen“ – also der Umstand, dass ein Modell erkennt, dass es getestet wird, und sein Verhalten ändert. Matin räumte ein, dass dies weiterhin ein aktuelles Problem darstellt.
„Das Bewusstsein für Evaluationen steht für uns ganz oben auf der Tagesordnung“, sagte Matin. „Wenn wir ein solches Bewusstsein feststellen, zeigt es sich häufig in der Gedankenkette des Modells.“
Diese Sorge erschwert die Interpretation der Ergebnisse zur Eindämmung von GPT-6 Cyber. Das Modell zeigte in einer kontrollierten Evaluation eine hohe Befolgung von Vorgaben, doch daraus lässt sich nicht ableiten, wie zuverlässig es sich in unbekannten Produktionsumgebungen verhalten wird.
Während OpenAI den Zugang zu GPT-6 Cyber ausweitet, erhalten Sicherheitsteams die Möglichkeit zu prüfen, ob die verbesserten Fähigkeiten bei der Schwachstellenforschung in der Praxis zu konkreten Vorteilen für die Verteidigung führen, ohne unvertretbare betriebliche Risiken einzuführen.
Diese Unterscheidung bleibt vorerst wichtig: Ein Modell, das sich während eines Tests sicher verhält, ist vielversprechend. Verteidiger brauchen letztlich jedoch ein Modell, das Autorisierungsgrenzen in realen Umgebungen konsequent respektiert.
Sie möchten bessere Ergebnisse mit KI erzielen? Leser von eSecurity Planet können den kostenlosen sechseinminütigen Kurs So sprechen Sie mit KI der The Neuron Academy ausprobieren, um einfache Prompting-Techniken und praktische Tipps für die effektivere Nutzung von KI bei der Arbeit zu lernen. Außerdem erhalten Sie sieben Tage lang kostenlosen Zugriff auf die vollständige Bibliothek von KI-Kursen der The Neuron Academy. Alle Lektionen hier entdecken →