Anthropic untersucht mutmaßlichen unbefugten Zugriff auf KI-Sicherheitstool Mythos

Anthropic untersucht Berichte, wonach eine unbefugte Gruppe Zugriff erlangt hat auf das neu gestartete Tool Mythos und damit mögliche Lücken bei der Verteilung und Absicherung von KI-Systemen im Frühzugang sichtbar macht.

„Unbefugte Nutzer konnten auf Anthropic’s Mythos-Modell zugreifen, Berichten zufolge offenbar, indem sie einfach einen Modellnamen änderten“, sagte Shane Fry, CTO bei RunSafe Security, in einer E-Mail an eSecurityPlanet.

Er fügte hinzu: „Selbst wenn sie nur vorhatten, das System zu erkunden, zeigt dies, wie leicht diese Systeme offengelegt werden können.“  

Der Vorfall mit dem Mythos-Zugriff

Mythos ist Teil der Initiative Project Glasswing von Anthropic, die einer kleinen Gruppe von Partnern, darunter großen Technologieanbietern, begrenzten und kontrollierten Zugriff auf fortschrittliche KI-Sicherheitstools gewährt. 

Diese Tools sollen Unternehmen dabei helfen, Bedrohungen zu erkennen und darauf zu reagieren. Anthropic wies jedoch darauf hin, dass sie bei missbräuchlicher Nutzung für offensive Zwecke angepasst werden könnten. 

Laut Bloomberg erfolgte der gemeldete unbefugte Zugriff über die Umgebung eines Drittanbieters und nicht durch eine direkte Kompromittierung der Infrastruktur von Anthropic.

Risiken durch Dritte und Lücken bei der Zugriffskontrolle

Für Unternehmen, die KI-Sicherheitstools einsetzen, unterstreicht der Vorfall die Notwendigkeit, den Zugriff Dritter streng zu verwalten und den Überblick zu behalten. 

Programme mit Frühzugang können zusätzliche Angriffsflächen schaffen, wenn Kontrollen, Überwachung und Isolation nicht konsequent durchgesetzt werden. 

So wurde der unbefugte Zugriff erlangt

Bei der beteiligten Gruppe soll es sich um eine private Online-Community handeln, die sich auf die Identifizierung und Erprobung noch nicht veröffentlichter KI-Modelle konzentriert. 

Statt eine herkömmliche Softwareschwachstelle auszunutzen, machten sich die Mitglieder Berichten zufolge den mit einer bei einem Drittanbieter tätigen Person verbundenen Zugriff zunutze und kombinierten ihn mit fundierten Annahmen darüber, wo das Modell gehostet wurde. 

Durch die Analyse von Mustern aus früheren Anthropic-Bereitstellungen konnte die Gruppe das Mythos-System lokalisieren und mit ihm interagieren.

Bloomberg berichtete, dass die Gruppe als Belege Screenshots und Live-Demonstrationen vorlegte und das Tool noch am selben Tag zu nutzen begann, an dem es öffentlich angekündigt wurde. 

Auch wenn die Mitglieder erklärten, ihre Absicht sei lediglich die Erkundung gewesen, zeigt der Vorfall, wie schnell Zugriffskontrollen umgangen werden können, wenn Bereitstellungsmuster vorhersehbar sind oder Umgebungen von Anbietern keine starken Sicherheitsmaßnahmen aufweisen.  

Risiken durch die Angriffsfläche von KI reduzieren

Unternehmen, die KI-Tools einsetzen – insbesondere in Vorschau- oder Programmen mit begrenzter Veröffentlichung –, sollten proaktiv vorgehen, um die Angriffsfläche zu verringern und Zugriffskontrollen zu stärken. 

• Zugriffe Dritter nach dem Prinzip der geringsten Rechte beschränken, phishing-resistente MFA durchsetzen und Just-in-Time-Zugriffe implementieren, um dauerhafte Berechtigungen zu begrenzen.
• KI-Tools und Vorschauumgebungen von Produktionssystemen isolieren mithilfe einer dedizierten Infrastruktur und eines kontrollierten Netzwerkzugriffs.
• Zugriffe und Nutzung mit detaillierter Protokollierung überwachen, SIEM-Integration und Verhaltensanalysen einsetzen, um ungewöhnliche Aktivitäten bei Nutzern und Anbietern zu erkennen.
• Berechtigungen für Mitarbeiter regelmäßig prüfen und validieren, Auftragnehmer und Partner regelmäßig prüfen und kontinuierlich Risiken durch Dritte bewerten.
• APIs und Zugangspunkte mit starker Authentifizierung absichern, Ratenbegrenzung und nicht vorhersehbare Endpunkte einsetzen, um unbefugtes Auffinden und Missbrauch zu reduzieren.
• Datenschutzkontrollen implementieren, etwa DLP, Ausgabeverfolgung und Schutzmaßnahmen gegen unbefugte Datenweitergabe oder -exfiltration.
• Diese Maßnahmen in die Planung der Incident Response integrieren und regelmäßig Szenarien mit unbefugtem Zugriff testen, um die Einsatzbereitschaft zu verbessern.

Zusammen helfen diese Maßnahmen Unternehmen dabei, den Explosionsradius zu begrenzen und ihre Widerstandsfähigkeit gegen unbefugten Zugriff und den Missbrauch von KI-Systemen zu stärken. 

Das KI-Ökosystem absichern

Dieser Vorfall macht eine anhaltende Herausforderung bei der KI-Sicherheit deutlich: Nicht nur die Modelle selbst müssen geschützt werden, sondern auch die Umgebungen, in denen sie eingesetzt werden. 

Da fortschrittliche KI-Tools über Partnerschaften und Programme mit Frühzugang geteilt werden, werden Systeme von Drittanbietern zu einem wichtigen Bestandteil des Gesamtrisikoprofils. 

Diese Umgebungen erfordern dasselbe Maß an Zugriffskontrolle, Überwachung und Sicherheitsaufsicht wie die Kerninfrastruktur. 

Diese Art von Risiko unterstreicht den Wert von Zero-Trust-Lösungen, die den Zugriff über Umgebungen hinweg beschränken und kontinuierlich überprüfen.