Australien ist dabei, die Aufsicht über leistungsfähige KI-Systeme zu verschärfen, nachdem ein experimentelles OpenAI-Modell auf Regierungsressourcen zugegriffen hatte, für die es keine Zugriffsberechtigung besaß.
Premierminister Anthony Albanese gab am 10. November bekannt, dass die Regierung 18 Empfehlungen angenommen habe, die aus einer Untersuchung des Vorfalls hervorgegangen seien, darunter Vorschläge für strengere Sicherheitsanforderungen und eine verpflichtende Meldung schwerwiegender KI-Vorfälle.
Dem vorausgegangen war Kritik an OpenAIs Umgang mit dem Vorfall im Juni, insbesondere an der Verzögerung zwischen der Identifizierung der Aktivitäten und der Benachrichtigung der betroffenen australischen Behörden.
Die vorgeschlagenen Reformenwerfen eine größere Frage auf: Wer trägt die Verantwortung, wenn ein KI-System Handlungen außerhalb seiner vorgesehenen Befugnisse ausführt?
Ein wenig Hintergrund
Obwohl das Jahr noch nicht vorbei ist, dreht sich eine beträchtliche Zahl der KI-Schlagzeilen in diesem Jahr um KI-Modelle, die aus dem Ruder laufen, und OpenAI-Modellescheinen diese neue Freiheit etwas zu ernst genommen zu haben.
Einer von mehreren Vorfällen ereignete sich im Juni und erstreckte sich bis nach Australien, wo ein experimentelles OpenAI-Modell auf Ressourcen zugriff, für die es keine Zugriffsberechtigung besaß.
Doch der unbefugte Zugriffwar nicht das einzige Problem. Laut The Guardianidentifizierte OpenAI die Aktivitäten im August, begann aber erst Mitte September damit, die betroffenen australischen Regierungsbehörden zu benachrichtigen.
Diese Verzögerung zog Kritik vonseiten der Regierung auf sich, insbesondere die Frage, warum das Unternehmen Wochen brauchte, um einen Vorfall offenzulegen, an dem sein Modell und die Infrastruktur der Regierung beteiligt waren.
OpenAI räumte später eindass das Unternehmen besser auf den Vorfall hätte reagieren sollen, und zeigte Wege auf, wie es dies künftig besser machen wolle.
Australien unterstützt strengere Anforderungen an KI-Sicherheit und Meldungen
Australiens Reaktion geht über die Kritik an OpenAI hinaus. Die Regierung hat 18 Empfehlungen aus einer Untersuchung des Vorfalls angenommen und strebt eine strengere Aufsicht über Entwickler von Frontier-KI an.
Zu den vorgeschlagenen Maßnahmen gehören Anforderungen an Entwickler, Sicherheitskontrollen aufrechtzuerhalten, schwerwiegende Risiken zu identifizieren und zu managen, erhebliche Vorfälle zu melden und unabhängige Evaluierungen ihrer Modelle zu unterstützen.
Die Regierung erwägt außerdem stärkere Mechanismen zur Verantwortungszuweisung, darunter einen möglichen Straftatbestand der „unterlassenen Verhinderung“ für Entwickler, die keine angemessenen Maßnahmen ergreifen, um bestimmte Schäden zu verhindern.
Diese Vorschläge entsprechen noch keinen durchsetzbaren rechtlichen Verpflichtungen. Ihr endgültiger Umfang, der Zeitplan für ihre Umsetzung und die Strafen werden von den nächsten regulatorischen und gesetzgeberischen Schritten der Regierung abhängen.
- Sicherheitskontrollen während der Entwicklung und des Einsatzes von Modellen aufrechterhalten.
- Ernsthafte Risiken identifizieren und managenim Zusammenhang mit ihren Modellen.
- Vorfälle unverzüglich meldenbei der australischen Regierung.
- Unabhängige Evaluierungen zulassenihrer Modelle.
- Sicherheits- und Schutzrahmen veröffentlichenfür Governance, Risikomanagement und Transparenz.
- Auf aktualisierte Standards reagierenwenn sich die KI-Technologie verändert.
Die verpflichtende Meldung von Vorfällen ist für den Fall OpenAI besonders relevant. Die Untersuchung empfiehlt eine fristgebundene Meldung von Vorfällen im Bereich der KI-Sicherheit, einschließlich unerwarteten Verhaltens von Agenten. Damit wird der Kritik Rechnung getragen, dass OpenAI nach der Identifizierung der Aktivitäten wochenlang wartete, bevor das Unternehmen die australischen Behörden benachrichtigte.
Der Vorschlag sieht außerdem einen „Straftatbestand der unterlassenen Verhinderung“vor, der Entwickler strafrechtlich zur Verantwortung ziehen könnte, wenn ihre Modelle Schäden verursachen und sie keine angemessenen Maßnahmen ergreifen, um diese zu verhindern. Dabei handelt es sich um Empfehlungen zur weiteren Prüfung, nicht um bestehende Straftatbestände.
The Guardian berichtet, dass OpenAI wegen des Vorfalls im Juni keine strafrechtlichen Konsequenzen drohen.
Dennoch hält Albanese den Vorfall im Juni für inakzeptabel, sagt, dass er „nicht noch einmal passieren darf“. Innenminister Tony Burke betonte unterdessen die Notwendigkeit einer sofortigen Offenlegung und erklärte, Australien müsse „sicherstellen, dass die Meldung erfolgt und zwar sofort, wenn so etwas passiert“.
Könnte auch für Unternehmen gelten, die KI einsetzen
Während die Verantwortung für Handlungen von KI historisch gesehen in einer Grauzone lag, könnte Australiens jüngster Schritt dazu beitragen, klarere Erwartungen an Unternehmen zu formulieren, die diese Systeme entwickeln und einsetzen.
Dies wäre nicht Australiens erster Versuch, einen globalen politischen Präzedenzfall zu schaffen. Das Land war das erste, das ein Verbot sozialer Medien für Kinder einführte – ein Schritt, der seither weltweit ähnliche Beschränkungen und Vorschläge inspiriert hat.
Seine geplanten KI-Regulierungen könnten einen ähnlichen Weg einschlagen, insbesondere während Regierungen darüber ringen, wer zur Verantwortung gezogen werden sollte, wenn KI-Systeme über ihren vorgesehenen Zweck hinaus handeln.
Seemant Sehgal, Gründer und CEO von BreachLock, glaubt, dass andere Regierungen letztlich Australiens Beispiel folgen könnten: „Dass Australien alle 18 Empfehlungen annimmt und sich auf eine verpflichtende Meldung von Vorfällen zubewegt, ist die richtige Entscheidung. Jede andere Regierung wird irgendwann an diesem Punkt landen.“
Noch wichtiger ist, dass Australiens neue Politik über die Unternehmen hinausgehen könnte, die KI-Modelle entwickeln, und auch die Unternehmen erfassen könnte, die sie einsetzen.
Damit entsteht eine weitere Verantwortungsebene. Wenn ein Agent auf Informationen zugreift, auf die er nicht zugreifen sollte, oder eine nicht autorisierte Handlung ausführt – insbesondere wenn diese andere Unternehmen betrifft oder sich auf Kunden auswirkt –, darf die Frage nicht damit enden, ob der Entwickler angemessene Schutzvorkehrungen geschaffen hat.
Unternehmen müssen daher möglicherweise nicht nur nachweisen, dass sie einen angesehenen KI-Anbieter ausgewählt haben, sondern auch, dass sie angemessene Maßnahmen ergriffen haben, um zu kontrollieren, was dessen Technologie in ihren eigenen Umgebungen tun kann.
Was KI-Entwickler und Unternehmen daraus mitnehmen sollten
Nicht jeder KI-Entwickler und jedes Unternehmen verfügt möglicherweise über die Ressourcen, eigene KI-Sicherheits- oder Compliance-Teams zu unterhalten, insbesondere kleinere Teams. Dennoch können auch sie grundlegende Schutzvorkehrungen einrichten.
Unabhängig davon, ob Sie KI-Agenten entwickeln oder einsetzen, sollten Sie mit diesen Maßnahmen beginnen:
- Zugriff beschränken: Geben Sie Agenten nur die Berechtigungen und Daten, die sie benötigen.
- Menschliche Freigabe verlangen: Legen Sie fest, was für Ihre Organisation sensible Aktionen sind, und unterziehen Sie diese einer menschlichen Prüfung.
- Aktivitäten überwachen: Protokollieren Sie, worauf Agenten zugreifen und welche Aktionen sie ausführen.
- Vor dem Einsatz testen: Prüfen Sie, wie sich Agenten verhalten, wenn sie unerwartete Anweisungen oder Zugriffsanfragen erhalten.
- Auf Vorfälle vorbereiten: Festlegen, wer reagiert, wie der Zugriff widerrufen wird und wann betroffene Parteien benachrichtigt werden.
Australiens geplante Reformen zeigen, dass der Druck auf KI-Entwickler wächst, nachzuweisen, dass ihre Systeme sicher eingesetzt werden können und schwerwiegende Vorfälle unverzüglich gemeldet werden.
Die endgültigen Anforderungen des Gesetzes sind noch unklar, doch die Lehre in Sachen Sicherheit ist bereits eindeutig: Organisationen müssen verstehen, worauf ihre KI-Agenten zugreifen können, welche Aktionen sie ausführen können und wie schnell diese Aktionen gestoppt werden können, wenn etwas schiefläuft.
Weitere Nachrichten: Das Bureau of Internal Revenue der Philippinen untersucht Berichte, wonach Hacker ungefähr 10 Millionen Steuerunterlagen gestohlen haben, wobei die Behörde anschließend einräumte, dass einige Informationen aus den Steuerzahlerprofilen offengelegt worden sein könnten, zugleich aber betonte, dass die Steuererklärungs- und Zahlungsdaten intakt geblieben seien.