Das auf künstliche Intelligenz spezialisierte Unternehmen Anthropic erklärt, dass sein neuestes Large Language Model, Claude Opus 4.6, mehr als 500 bislang unbekannte Sicherheitslücken mit hohem Schweregrad in weit verbreiteten Open-Source-Bibliotheken entdeckt hat.
Es „… liest und analysiert Code so, wie es ein menschlicher Sicherheitsforscher tun würde – untersucht frühere Fehlerbehebungen, um ähnliche, nicht behobene Fehler zu finden, erkennt Muster, die häufig Probleme verursachen, oder versteht einen Teil der Logik gut genug, um genau zu wissen, welche Eingabe ihn zum Absturz bringen würde“, sagte Anthropic in seinem Beitrag.
Open-Source-Code mit KI analysieren
Open-Source-Software bildet die Grundlage moderner Anwendungen. Sicherheitslücken in weit verbreiteten Bibliotheken können daher zahlreiche nachgelagerte Produkte betreffen.
Anthropic zufolge werden die betroffenen Projekte – Ghostscript, OpenSC und CGIF – in Unternehmenssystemen, Entwicklerwerkzeugen und Betriebsumgebungen vielfach eingesetzt, wodurch sich die Reichweite zugrunde liegender Fehler erhöht.
Anthropic zufolge zeigte Claude Opus 4.6 eine ungewöhnliche Fähigkeit, schwerwiegende Sicherheitslücken aufzudecken, ohne auf speziell erstellte Prompts oder aufgabenspezifische Sicherheitstools angewiesen zu sein.
Stattdessen untersuchte das Modell Quellcode und Commit-Historien, um riskante Codierungsmuster, fehlende Bereichsprüfungen und subtile Logikfehler zu identifizieren, die zu Speicherkorruption führen könnten.
In einem Fall entdeckte das Modell einen zum Absturz führenden Fehler in Ghostscript, indem es zuvor behobene Probleme mit ähnlichen Logikpfaden abglich, die weiterhin nicht behoben waren.
In einem anderen Fall meldete es einen Pufferüberlauf in OpenSC, nachdem es unsichere Routinen zur String-Manipulation analysiert hatte.
Anthropic verwies auf einen Heap-Pufferüberlauf in CGIF als anschauliches Beispiel für die Fähigkeiten des Modells.
Um den Fehler erfolgreich zu identifizieren, war ein konzeptionelles Verständnis des LZW-Kompressionsalgorithmus und seines Zusammenspiels mit dem GIF-Dateiformat erforderlich.
Das Unternehmen wies darauf hin, dass selbst eine vollständige Abdeckung von Zeilen und Verzweigungen diese Fehler möglicherweise nicht aufdeckt. Das unterstreicht die Grenzen von Fuzzing, wenn Exploits von präziser Logik statt von zufälligen Eingaben abhängen.
Anthropics Frontier Red Team validierte jeden Befund in einer kontrollierten, virtualisierten Umgebung, um falsch-positive Ergebnisse oder Halluzinationen auszuschließen.
Das Modell wurde außerdem eingesetzt, um die kritischsten Probleme zu priorisieren – mit Schwerpunkt auf Fehlern durch Speicherkorruption, die plausiblerweise Denial-of-Service-Angriffe oder unter bestimmten Bedingungen die Ausführung beliebigen Codes ermöglichen könnten.
Anthropic berichtete zwar von keinen Belegen für eine aktive Ausnutzung dieser konkreten Fehler, betonte jedoch, dass deren Schweregrad eine sofortige Behebung rechtfertige, um nachgelagerte Risiken in der gesamten Software-Lieferkette zu verringern.
Die Software-Lieferkette absichern
Da Software-Lieferketten immer komplexer werden und KI die Ausnutzung von Schwachstellen beschleunigt, benötigen Unternehmen Kontrollen, die über das Beheben einzelner Sicherheitslücken hinausgehen.
Viele Probleme entstehen durch verschachtelte Abhängigkeiten, unsichere Speicherpraktiken oder Logikpfade, die von herkömmlichen Tests nur schwer erkannt werden können.
Der Umgang mit diesem Risiko setzt eine bessere Transparenz, eine effektivere Priorisierung in der Produktion und die Bereitschaft voraus, bei einer Ausnutzung zu reagieren.
- Übernehmen Sie Software-Stücklisten (SBOMs) , um kontinuierliche Transparenz über transitive Abhängigkeiten zu gewährleisten und die Gefährdung bei der Offenlegung neuer Fehler schnell zu bewerten.
- Setzen Sie, wo möglich, standardmäßig auf speichersichere Verfahren, etwa indem Sie für Hochrisikokomponenten speichersichere Programmiersprachen oder Optionen zur Compiler-Härtung (ASLR, Stack Canaries, Sanitizer) bevorzugen.
- Führen Sie eine ausnutzbarkeitsorientierte Priorisierung ein, indem Sie CVSS mit kontextbezogenen Faktoren wie Erreichbarkeit, Laufzeit-Exposition und Berechtigungsstufe kombinieren, um die Behebungsmaßnahmen zu fokussieren.
- Kontinuierlich überwachen Sie das Laufzeitverhalten, indem Sie Telemetriedaten der Anwendung und Anomalieerkennung nutzen, um Ausnutzungsversuche zu erkennen, die präventive Kontrollen umgehen.
- Segmentieren Sie Hochrisikokomponenten und führen Sie sie in einer Sandbox aus, insbesondere Bibliotheken, die nicht vertrauenswürdige Eingaben verarbeiten (z. B. Dateiparser und Bild-Codecs), um bei der Auslösung eines Fehlers dessen Auswirkungsradius zu begrenzen.
- Führen Sie gegnerische Tests und Red-Teaming an kritischen Abhängigkeiten durch, einschließlich logikbasierter Missbrauchsszenarien, die herkömmliches Fuzzing möglicherweise nicht erkennt.
- Testen Sie Notfallpläne zur Reaktion auf Sicherheitsvorfälle für Szenarien in der Lieferkette, damit Teams gefährdete Komponenten schnell isolieren, Builds zurücksetzen, Zugangsdaten rotieren und Hotfixes bereitstellen können, wenn eine Abhängigkeit kompromittiert wurde.
Zusammen tragen diese Maßnahmen dazu bei, den Auswirkungsradius zu begrenzen und zugleich die Widerstandsfähigkeit der gesamten Software-Lieferkette zu stärken.
Die Ergebnisse von Anthropic zeigen, wie KI-gestützte Analysen sowohl die Entdeckung als auch das Management von Risiken in der Software-Lieferkette verändern.
Modelle wie Claude Opus 4.6 können Klassen von Sicherheitslücken aufdecken, die herkömmliche Tools nur schwer erkennen – insbesondere solche, die auf komplexer Logik und Speicherverwaltung beruhen.
Diese Ergebnisse unterstreichen, wie wichtig es ist, sowohl einzelne Sicherheitslücken als auch die umfassendere Software-Lieferkette, in der sie sich ausbreiten.