OpenAI erhöht seine Prämien für das Melden von Sicherheitslücken. Für außergewöhnliche kritische Schwachstellen in Kernprodukten können Forschende nach anrechenbaren Boni rund 172.000 US-Dollar erhalten.
Das Unternehmen gab die höheren Prämien am 2. Nov. zusammen mit Plänen für einen weiteren KI-gestützten Sicherheitssprint bekannt. Dabei sollen Forschende von Cathedral mit internen Teams zusammenarbeiten, um Schwachstellen zu finden und zu beheben.
Die Ergebnisse der vorherigen Übung zeigen eine Herausforderung für Sicherheitsteams: Eine schnellere Entdeckung von Schwachstellen erfordert weiterhin zuverlässige Validierung, klare Zuständigkeiten und die Überprüfung, dass die Fehlerbehebungen in die Produktion gelangen.
Frühere Sicherheitstests schlossen 53 dringende oder hochpriorisierte Probleme
Forschende von Cathedral werden sich internen Teams anschließen, um Abwehrmaßnahmen zu untersuchen und Fehlerbehebungen zu bewerten. Die Teilnehmenden werden die Modelle von OpenAI gemeinsam mit ihrer eigenen Forschungsexpertise nutzen, um potenzielle Schwachstellen zu untersuchen.
Beim vorherigen Sprint arbeiteten mehr als 250 Personen in über 100 Servicebereichen. 25 % der Produktentwickler waren dafür abgestellt, Schwachstellen zu finden und zu beheben. OpenAI zufolge schlossen die Teams 53 dringende oder hochpriorisierte Probleme am ersten Tag.
Codex half den Entwicklern, mutmaßliche Schwachstellen zu untersuchen und sie in isolierten Umgebungen zu reproduzieren, bevor sie Patches zur Prüfung durch Menschen vorbereiteten. Die Entwickler entwickelten außerdem Verfahren zur Bewertung des Schweregrads und zur Weiterleitung von Erkenntnissen an die zuständigen Teams und ergänzten damit herkömmliche Schwachstellentests durch automatisierte Untersuchungen.
OpenAI zufolge stufte der Triage-Prozess 37 % der Erkenntnisse als Duplikate ein, während die Laufzeitvalidierung 19,5 % reproduzierte. Erkenntnisse, die sich nicht reproduzieren ließen, waren nicht zwangsläufig Fehlalarme. Das Unternehmen beschrieb außerdem Einschränkungen bei den Tests, etwa fehlende Abhängigkeiten und Unterschiede in der Konfiguration. Die Entwickler nutzten diese Erfahrungen, um die Defense Factory zu entwickeln – einen kontinuierlichen Prozess, der die Entdeckung von Schwachstellen mit ihrer Validierung und einer überprüften Behebung verbindet.
Höhere Prämien belohnen schwerwiegende und gut dokumentierte Schwachstellen
OpenAI erhöht die Auszahlungen im Rahmen seines Security-Bug-Bounty-Programms. Die durchschnittlichen Prämien für Erkenntnisse mit mittlerem, hohem und kritischem Schweregrad steigen mehr als auf das Vierfache.
Kritische Schwachstellen in ChatGPT und anderen Kernprodukten können nach den regulären Prämienstufen nun bis zu 30.000 US-Dollar einbringen. Für außergewöhnliche kritische Schwachstellen in diesen Kernprodukten bleiben Basisprämien von bis zu 100.000 US-Dollar möglich. Anrechenbare Boni können die potenzielle Auszahlung auf rund 172.000 US-Dollar erhöhen.
Forschende, die an Bug-Bounty-Programmen teilnehmen, können nach der überarbeiteten Struktur ebenfalls zusätzliche Anreize erhalten.
- Boni für die Qualität von Meldungen. Höhere Prämien belohnen detaillierte Einreichungen mit einem zuverlässigen Proof of Concept, einschließlich Belegen dafür, wann eine Schwachstelle ausgenutzt werden kann und welche Auswirkungen sie potenziell hat.
- Treueprämien für Forschende. Ein Programm mit fünf Stufen bietet Forschenden, die kontinuierlich Sicherheitslücken melden, zunehmend höhere Boni.
- Anreize für priorisierte Kampagnen. Zeitlich begrenzte Kampagnen bieten zusätzliche Prämien für die Untersuchung neu veröffentlichter Funktionen.
Ausstehende Einreichungen fallen unter die aktualisierten Prämienstufen. Für Bug-Bountys, die in den 30 Tagen vor der Ankündigung vom 2. Nov. vergeben wurden, zahlt OpenAI die Differenz, wenn die Erkenntnis nach der aktualisierten Struktur für Basis- und Treueprämien mehr eingebracht hätte.
Schnellere Entdeckung von Schwachstellen setzt die Behebung unter Druck
Der frühere Sprint von OpenAI zeigte eine Herausforderung für Unternehmen, die KI-gestütztes Schwachstellen-Scanning.
Automatisierte Erkennung kann Erkenntnisse schneller hervorbringen, als Sicherheitsteams sie untersuchen können – insbesondere wenn doppelte Meldungen und unbestätigte Schwachstellen um Aufmerksamkeit konkurrieren. In großen Unternehmensumgebungen kann die Zeit, die für die Sortierung nicht eindeutiger Meldungen aufgewendet wird, die Arbeit an verifizierten Schwachstellen in exponierten Systemen verzögern.
OpenAI zufolge zeigten nachgelagerte Prüfungen eine Lücke zwischen zusammengeführten Patches und den in der gesamten Flotte bereitgestellten Fehlerbehebungen auf, woraufhin das Unternehmen die Verifizierung ausweitete. Diese Erfahrung macht deutlich, warum die Bestätigung einer Schwachstelle und die Vorbereitung eines Patches nur einen Teil der Behebung ausmachen. Sicherheitstechniker können eine Schwachstelle identifizieren, doch die Anwendungsteams müssen die Korrektur weiterhin testen und bereitstellen. Ein von Entwicklern freigegebener Patch kann Unternehmen weiterhin gefährden, wenn ältere Versionen auf Produktionsservern oder in Containern ausgeführt werden. Dadurch entsteht eine Lücke zwischen abgeschlossener Entwicklungsarbeit und tatsächlicher Behebung.
Für Sicherheitsverantwortliche, die KI-gestützte Tests bewerten, ist es aussagekräftiger zu messen, wie lange bestätigte Schwachstellen in der Produktion ausnutzbar bleiben. Verzögerungen bei der Untersuchung können Probleme bei der Validierung von Erkenntnissen offenlegen, und auf ihre Bereitstellung wartende Fehlerbehebungen weisen auf Schwächen im Release-Management hin. Die Nachverfolgung dieser Verzögerungen durch Patch-Verifizierung kann Unternehmen helfen festzustellen, ob die schnellere Entdeckung die Zeit verkürzt, in der ihre Systeme verwundbar bleiben.
Weiterführende Lektüre: Frühere Cyberangriffe können Sicherheitslücken offenlegen, aber KI-gestützte Bedrohungen erfordern möglicherweise einen anderen Ansatz. Erfahren Sie, wie sich Unternehmen vorbereiten können.