Die EU-Agentur für Cybersicherheit und der wissenschaftliche Forschungsdienst testen chinesische KI-Modelle mit offenem Gewicht, die heruntergeladen und auf lokaler Infrastruktur betrieben werden können.
Die Agentur der Europäischen Union für Cybersicherheit (ENISA) und die Gemeinsame Forschungsstelle (JRC) der Europäischen Kommission bestätigten gegenüber Politico, dass sie diese Bewertungen durchführen. Die Studie der JRC umfasst auch amerikanische und europäische Modelle und führt die Systeme auf ihrer eigenen sicheren Computerinfrastruktur aus, laut The Next Web.
Für Organisationen, die ähnliche Bereitstellungen erwägen, geht die Sicherheitsfrage über die Frage hinaus, welches Modell die beste Leistung erbringt: Entscheidend ist auch, auf welche Daten und Systeme es zugreifen kann.
Was die EU testet – und was weiterhin unbekannt ist
Kommissionssprecher Maciej Berestecki erklärte gegenüber Politico, dass die JRC diese Modelle auf ihrer eigenen sicheren Computerinfrastruktur betreibt und die Kommission nicht beabsichtigt, sie im Arbeitsalltag einzusetzen. Allerdings wurden weder die konkreten geprüften Modelle noch die Testergebnisse veröffentlicht.
Ein zweiter Kommissionsbeamter erklärte gegenüber Politico, dass Sicherheit und Schutz nicht im Mittelpunkt der JRC-Studie stehen. Aus der verfügbaren Berichterstattung geht nicht hervor, ob ihre Ergebnisse Beschaffungs- oder Einsatzentscheidungen beeinflussen werden.
KI-Modelle mit offenem Gewicht verlagern Sicherheitskontrollen auf den Betreiber
Anders als bei gehosteten KI-Diensten, bei denen der Anbieter die Infrastruktur kontrolliert und Schutzmaßnahmen auf Dienstebene durchsetzen kann, können KI-Modelle mit offenem Gewicht heruntergeladen, verändert und auf den eigenen Systemen einer Organisation ausgeführt werden. Das bedeutet, dass der ursprüngliche Entwickler nicht zentral kontrollieren kann, wie jede Kopie konfiguriert ist, welche Beschränkungen die Nutzer entfernen oder mit welchen Systemen das Modell verbunden wird.
Organisationen, die Modelle auf ihrer eigenen Infrastruktur betreiben, übernehmen die Verantwortung für die Absicherung dieser Bereitstellung. Sie müssen die Umgebung schützen, in der das Modell läuft, seinen Zugriff auf sensible Daten und externe Werkzeuge beschränken und testen, ob seine Schutzmaßnahmen unter realen Betriebsbedingungen greifen.
Die Bewertungen können das Verständnis der Fähigkeiten und Grenzen der Modelle verbessern. Aus der verfügbaren Berichterstattung geht nicht hervor, dass es sich dabei um ein Genehmigungsverfahren für den Einsatz durch Behörden oder Unternehmen handelt.
Wie sicher diese Modelle in der Praxis bleiben, hängt jedoch auch davon ab, wie Organisationen sie konfigurieren, verändern und in ihre Abläufe integrieren. Änderungen am Modell, an seinen Berechtigungen oder an den verbundenen Werkzeugen können das Risikoprofil des eingesetzten Systems verändern.
Was Sicherheitsteams vor der Bereitstellung prüfen sollten
Für Organisationen, die KI-Modelle mit offenem Gewicht erwägen, bietet der lokale Betrieb Kontrolle darüber, wo das Modell ausgeführt wird. Diese Kontrolle stellt nicht automatisch sicher, dass das daraus entstehende System sicher ist. Teams müssen weiterhin das Modell, seine unterstützende Software und seinen Zugriff auf Unternehmensressourcen bewerten.
Beginnen Sie mit dem vorgesehenen Einsatz. Ermitteln Sie, welche Informationen das System verarbeiten wird, ob es Zugriff auf vertrauliche Datensätze benötigt und ob es externe Werkzeuge aufrufen oder Befehle ausführen kann. Ein System, das Dokumente zusammenfasst, erfordert eine andere Bewertung als ein Agent, der Dateien ändern oder mit Produktionssystemen interagieren darf.
Testen Sie diese Berechtigungen in einer isolierten Umgebung, bevor Sie Live-Zugriff gewähren. Verwenden Sie repräsentative, nicht sensible Daten, um zu prüfen, ob schädliche Anweisungen in Dokumenten oder Werkzeugantworten das System umleiten, Informationen offenlegen oder eine unbefugte Codeausführung auslösen. Beschränken Sie den Zugriff auf das für den jeweiligen Einsatz erforderliche Maß und verlangen Sie für folgenschwere Aktionen eine menschliche Genehmigung.
Betrachten Sie Änderungen als Anlass, die Bereitstellung erneut zu bewerten. Feinabstimmung, der Austausch eines Modells, das Hinzufügen eines Konnektors oder die Erweiterung von Berechtigungen können das Verhalten des Systems verändern. Teams sollten die getestete Konfiguration dokumentieren, ihren Betrieb überwachen und eine Möglichkeit vorhalten, den Zugriff zu deaktivieren, falls Probleme auftreten.
Die Bewertungen der EU liefern einen relevanten Kontext, doch ihre bloße Existenz belegt nicht, dass ein bestimmtes Modell für den Einsatz in einem Unternehmen geeignet ist. Solange Methoden und Ergebnisse nicht verfügbar sind, können Organisationen nicht feststellen, welche Sicherheitsfolgerungen die Tests zulassen. Die praktische Konsequenz lautet, das vollständige System unter den vorgesehenen Betriebsbedingungen zu bewerten, bevor es mit sensiblen Daten oder Geschäftswerkzeugen verbunden wird.
Erfahren Sie, wie Prompt-Injection in Azure DevOps KI-Coding-Agenten dazu bringen kann, über die bestehenden Berechtigungen eines Entwicklers auf sensible Daten zuzugreifen.