KI-Unternehmen mögen um Innovation wetteifern, doch viele lassen dabei kritische Sicherheitslücken zurück.
Laut einer neuen Studie von Wiz Security hatten 65 % der führenden KI-Unternehmen bestätigte Geheimnis-Leaks auf GitHub. Dadurch wurden sensible Daten wie API-Schlüssel, Token und Zugangsdaten offengelegt, die oft in gelöschten Forks und Entwickler-Repositories verborgen sind.
Diese Leaks drohen private Modelle, Organisationsstrukturen und sogar Trainingsdaten offenzulegen – eine wachsende Sorge für Unternehmen, die die nächste Generation der KI vorantreiben.
„Geschwindigkeit und Sicherheit müssen Hand in Hand gehen“, sagte das Wiz-Forschungsteam.
Geheimnisse unter der Oberfläche
Die Studie untersuchte private Unternehmen aus der Forbes AI 50, einer Referenzliste führender KI-Innovatoren, darunter Anthropic, Glean und Crusoe.
Die Analyse von Wiz zeigte, dass bei fast zwei Dritteln dieser Unternehmen bestätigte Leaks aufgetreten waren.
Für KI-Start-ups, die Wachstum und Governance unter einen Hut bringen müssen, offenbaren die Ergebnisse einen kritischen blinden Fleck: Geheimnisse, die in historischen Commits, Forks und Entwickler-Gists „unter der Oberfläche“ verborgen sind und von herkömmlichen Scannern übersehen werden.
Der Ansatz aus Tiefe, Perimeter und Abdeckung
Die Forschenden von Wiz nutzten ein dreidimensionales Framework, um die Angriffsfläche zu ermitteln.
- Tiefe: Das Team analysierte vollständige Commit-Verläufe, gelöschte Forks und Workflow-Protokolle, um Geheimnisse aufzudecken, die bei standardmäßigen GitHub-Suchen übersehen werden.
- Perimeter: Sie verfolgten Leaks über die offiziellen Unternehmens-Repositories hinaus und identifizierten Organisationsmitglieder, die versehentlich Unternehmensgeheimnisse in ihre persönlichen Projekte oder öffentliche Repositories eincheckten.
- Abdeckung: Sie suchten nach KI-spezifischen Geheimnistypen – darunter Token für Dienste wie Weights & Biases, Hugging Face und ElevenLabs –, die herkömmliche Scanner häufig übersehen.
Eine alarmierende Entdeckung betraf ein KI-Unternehmen, dessen gelöschter Fork ein Hugging-Face-Token enthielt, das Zugriff auf mehr als 1.000 private Modelle ermöglichte.
In einem anderen Fall wurden LangChain-API-Schlüssel mit weitreichenden Organisationsberechtigungen entdeckt, und bei ElevenLabs wurde festgestellt, dass API-Schlüssel der Enterprise-Klasse im Klartext durchsickerten.
Sicherheitslücken in der KI schließen
Um dem wachsenden Risiko von Geheimnis-Leaks in der KI-Entwicklung entgegenzuwirken, müssen Unternehmen eine proaktive und mehrschichtige Verteidigungsstrategie verfolgen.
Bei Sicherheit geht es nicht nur darum, Lücken zu schließen – es geht darum, nachhaltige Gewohnheiten bei Code, Menschen und Prozessen zu etablieren.
- Secret-Scanning in öffentlichen VCS vorschreiben: Alle öffentlichen GitHub-Repositories sollten automatisiertes Secret-Scanning aktivieren. Dazu sollten auch Forks und gelöschte Branches gehören, in denen Zugangsdaten möglicherweise erhalten bleiben.
- Klare Kanäle für Meldungen einrichten: Vielen KI-Unternehmen fehlte ein funktionierender Prozess zur Meldung von Sicherheitslücken. Jede Organisation sollte ihren Meldeweg definieren, dokumentieren und öffentlich bekannt machen.
- Eine eigene Richtlinie zur Geheimniserkennung entwickeln: Unternehmen sollten für ihre Plattform einzigartige, KI-spezifische Token identifizieren und überwachen (z. B. von Hugging Face oder Weights & Biases).
- Die Entwicklerhygiene verbessern: Die persönlichen Repositories und GitHub-Konten von Entwicklern sollten als Teil der Angriffsfläche betrachtet werden. Pseudonyme Nutzernamen, verpflichtende MFA und die Trennung persönlicher und geschäftlicher Code-Aktivitäten sollten gefördert werden.
- Scanpraktiken weiterentwickeln: Sobald neue KI-Tools aufkommen, müssen Scanner so angepasst werden, dass sie neuartige Token-Formate und Dateitypen erkennen, in denen Geheimnisse eingebettet sind.
Durch die Umsetzung dieser Maßnahmen können KI-Organisationen ihre Cyberresilienz stärken.
Die verborgenen Kosten des KI-Tempos
Die Forschung von Wiz unterstreicht ein zunehmendes Thema in der KI-Sicherheit: Innovation ist dem Schutz voraus.
Während Unternehmen darum wetteifern, größere Modelle zu trainieren und sie schneller bereitzustellen, wird die Infrastruktur, die sie unterstützt, zu einem lohnenden Ziel für Angreifer.
Durchgesickerte Zugangsdaten legen nicht nur Modelle offen – sie öffnen auch die Tür zu Supply-Chain-Angriffen, Modellmanipulation und Datenexfiltration.
Letztlich darf der Fortschritt der KI nicht auf Kosten der Sicherheit gehen.
Die Einführung von Zero-Trust-Prinzipien – die davon ausgehen, dass kein Nutzer, Gerät oder keine Verbindung von vornherein sicher ist – wird daher für die Absicherung des schnell wachsenden KI-Ökosystems immer wichtiger.