Anthropic zufolge erschweren die neuesten Schutzmaßnahmen des Unternehmens Wettbewerbern den Zugriff auf Claudes Fähigkeiten zur Schlussfolgerung erheblich.
Der KI-Entwickler teilte mit, dass neue Schutzmaßnahmen die Menge der von mutmaßlich unbefugten Extraktoren gesammelten Schlussfolgerungstoken um 90 % bis 99 % reduziert hätten. Die Maßnahmen richten sich gegen Modell-Destillationsangriffe, bei denen Entwickler Ausgaben fortschrittlicher KI-Systeme zum Training konkurrierender Modelle verwenden.
Dem Unternehmen zufolge führen unbefugte Akteure regelmäßig „verdeckte Kampagnen im industriellen Maßstab“ durch, um fortgeschrittene Spuren der Problemlösung aus seinen Claude-Modellen abzuschöpfen und damit günstigere Nachahmer zu trainieren. Nach der Einführung gezielter Schutzmaßnahmen sei die Zahl der von mutmaßlichen Extraktoren abgegriffenen internen Schlussfolgerungstoken auf ein Zehntel bis ein Hundertstel der früheren Menge gesunken, teilte Anthropic mit.
Der defensive Vorstoß erfolgt, während sich der technologische Wettbewerb zwischen den Vereinigten Staaten und ausländischen KI-Teams verschärft. Anthropic, das bei seinen Beschwerden von Konkurrenten wie OpenAI und der Google-Muttergesellschaft Alphabet unterstützt wird, warnt davor, dass unbefugte Destillation es ermöglicht ausländischen Akteuren, massive Forschungsausgaben zu umgehen und dabei wichtige Sicherheitsvorkehrungen abzubauen.
Claudes inneren Monolog abschirmen
Bei Destillationsangriffen werden vor allem die schrittweisen Denkspuren eines Modells erfasst, statt lediglich die endgültigen Antworten zu katalogisieren. Ein Modell, das anhand vollständiger Protokolle der Schlussfolgerungen von Claude Opus 4.8 trainiert wurde, erreichte im Programmier-Benchmark SWE-bench Verified 80,4 %, verglichen mit 71,8 % beim Training mit zusammengefassten Protokollen, laut Anthropic.
Um diesen Datenfluss zu stoppen, setzte das Unternehmen eine dreiteilige Verteidigung ein:
- Schutzmaßnahmen für erhaltene Denkprozesse: Neue API-Konten, die am oder nach dem 31. August 2026 erstellt wurden, dürfen frühere Kontextfenster nicht verändern. Dadurch wird verhindert, dass Proxy-Netzwerke interne Schlussfolgerungsspuren zwischen Modellen oder Gesprächen weiterreichen.
- Zweistufiger Klassifikator: Verwendet eine Prüfarchitektur mit einer Rate falsch positiver Ergebnisse von unter 0,1 %, die Anthropic zufolge „ungefähr so robust ist wie jene, die Claude daran hindern, beim Bau von Biowaffen zu helfen“.
- Kontosperrungen und Sanktionen: Sperrt betroffene Konten automatisch, häufig innerhalb von zwei Stunden nach verdächtigen Durchläufen, und stellt Kunden blockierte Extraktionsanfragen in Rechnung.
Anthropic beschuldigt den chinesischen KI-Entwickler Zhipu, auch bekannt als Z.ai, als ein Unternehmen, das Claude beim Aufbau seines Systems GLM-5.3 ins Visier genommen habe. Das Unternehmen berichtete außerdem von Fällen, in denen an Moonshots Kimi-Modelle gesendete Anfragen verdeckt an Claude umgeleitet wurden, darunter Überwachungsanfragen mit Bezug zu chinesischem Militärpersonal.
Warum die Destillation von KI-Modellen wichtig ist
Für KI-Entwickler stellt unbefugte Destillation sowohl eine kommerzielle als auch eine sicherheitstechnische Herausforderung dar.
Das Training eines KI-Modells der Spitzenklasse erfordert erhebliche Investitionen in Recheninfrastruktur, Forschung und Entwicklung. Das Extrahieren detaillierter Ausgaben aus einem bestehenden Modell könnte es einem anderen Entwickler ermöglichen, einige seiner Fähigkeiten nachzubilden, ohne dieselben Investitionen zu tätigen.
Anthropic argumentiert außerdem, dass unbefugte Destillation Sicherheitsvorkehrungen untergraben kann, wenn konkurrierende Systeme nützliche Fähigkeiten nachbilden, ohne die in das ursprüngliche Modell eingebauten Schutzmaßnahmen zu übernehmen.
Die neuesten Schutzmaßnahmen des Unternehmens spiegeln die umfassenderen Bemühungen von KI-Entwicklern wider, ihre Modelle gegen systematische Extraktion zu schützen und gleichzeitig über kommerzielle APIs Zugriff anzubieten.
Was Nutzer der Claude-API wissen sollten
Anthropics neue Schutzmaßnahmen richten sich vor allem gegen mutmaßliche Versuche, Claudes Fähigkeiten zur Schlussfolgerung in großem Maßstab zu extrahieren. Entwickler, die fortschrittliche API-Funktionen nutzen, sollten jedoch prüfen, ob sich die Änderungen auf ihre Anwendungen auswirken.
Teams, die auf erhaltene Denkprozesse zurückgreifen oder vom Modell erzeugte Schlussfolgerungen anfrageübergreifend wiederverwenden, sollten in der aktuellen API-Dokumentation von Anthropic nach geltenden Einschränkungen suchen.
Organisationen sollten außerdem überprüfen, wie sie API-Zugangsdaten verwalten, ungewöhnliche Anfragemuster überwachen und Hinweise zur Durchsetzung von Kontomaßnahmen bearbeiten.
Für legitime Kunden ist die entscheidende Frage, ob Anthropic eine Extraktion in großem Maßstab verhindern kann, ohne autorisierte Anwendungen zu beeinträchtigen. Das Unternehmen berichtet von einem deutlichen Rückgang der mutmaßlichen Extraktionsaktivitäten, doch diese Zahlen allein belegen nicht, wie sich die Schutzmaßnahmen auf gewöhnliche API-Nutzer auswirken.
Weitere Nachrichten: Ein schwerwiegender Einbruch in Dänemarks Melderegister hat Bedenken wegen schwacher Passwörter und des Zugriffs durch Dritte ausgelöst, wobei Berichten zufolge der Angreifer mithilfe von KI-generiertem Code Millionen von Suchanfragen automatisierte.