KI-Agenten entwickeln sich rasch von Werkzeugen, die lediglich Antworten oder Empfehlungen generieren, zu etwas weit Größerem. Indem Unternehmen ihnen zunehmend Zugriff auf Unternehmensdaten, Anwendungen und Infrastruktur gewähren, erwerben diese Systeme auch die Fähigkeit, im Namen von Nutzern und Unternehmen Aktionen auszuführen. Dadurch werden die Kontrollen rund um KI immer wichtiger.
Gartner prognostizierte kürzlich , dass 40 % der Unternehmensanwendungen, die mit aufgabenspezifischen KI-Agenten integriert sind, bis 2027 über einzelne Agenten hinaus zu miteinander verbundenen Agenten-Ökosystemen werden. Dadurch gewinnt eine konsistente Governance zunehmend an Bedeutung.
KI-Governance kann nicht allein in einem Richtliniendokument, einem KI-Rat oder einem Modellprüfungsprozess bestehen. All dies einzurichten, ist ein wichtiger Teil der Lösung, doch dadurch wird nicht bestimmt, worauf ein KI-System innerhalb einer Unternehmensumgebung zugreifen, was es ändern oder was es offenlegen kann.
Letztlich wird Governance erst dann Realität, wenn sie Absicht mit Durchsetzung verbindet. KI-Governance ist zu weit mehr als nur einem „KI-Thema“ geworden – sie hat sich zu einem Thema der Netzwerksicherheit, der Cloud-Sicherheit sowie der Identität, Segmentierung und des Anwendungszugriffs entwickelt.
Je autonomer KI-Systeme werden, desto wichtiger werden Richtlinien, die Zugriff, Konnektivität und Änderungssteuerung definieren.
KI entwickelt sich schneller als Governance-Modelle
Es ist kein Geheimnis, dass die Implementierung und Erprobung von KI der Governance davonlaufen.
Mitarbeiter in Unternehmen nutzen Copiloten; Entwickler setzen KI zum Generieren und Prüfen von Code ein; Betriebsteams testen Agenten, die Tickets zusammenfassen, Änderungen empfehlen oder Workflows auslösen; und Cloud-Teams erkunden Automatisierungen, die Ressourcen bereitstellen oder Konfigurationen ändern können.
eSecurity Planet hat zuvor untersucht, wie agentenbasierte KI in die Produktion Einzug hält, wobei autonome Systeme Tools aufrufen, auf Unternehmensdaten zugreifen und Aktionen über Geschäftssysteme hinweg ausführen können.
Der Schwung, den wir bei der Einführung von KI beobachten, ist nicht grundsätzlich schlecht. Unternehmen handeln schnell, um die Vorteile von KI zu nutzen, doch die Erprobung kann der erforderlichen Sicherheits-Governance davonlaufen, die nötig ist, um sie unter Kontrolle zu halten.
Viele Unternehmen haben die Verantwortung für KI einem CIO, CTO, CISO oder einem fachübergreifenden KI-Rat übertragen. Das ist ein vernünftiger Ausgangspunkt, doch Bereitstellungsentscheidungen werden inzwischen in Geschäftsbereichen, Entwicklungsteams, Cloud-Plattformen, bei Drittanbietern und von Nutzern getroffen. Ein zentrales Team kann für die Richtlinie zuständig sein, hat aber möglicherweise keinen klaren Überblick darüber, wo KI eingesetzt wird, auf welche Daten sie zugreifen kann, welche Systeme sie beeinflussen kann oder welche Kontrollen ihr Verhalten im gesamten Unternehmen steuern.
Eine Richtlinie ohne Kontrolle ist keine Governance
Die erste Reaktion auf KI-Risiken besteht häufig darin, eine KI-Richtlinie zu verfassen. Unternehmen legen fest, welche Tools erlaubt sind, welche Daten nicht eingegeben werden dürfen, wer deren Nutzung genehmigen kann und für welche Anwendungsfälle eine Prüfung erforderlich ist. Das ist ein Schritt in die richtige Richtung, doch damit darf die Arbeit nicht enden. Eine Richtlinie nach dem Motto „einrichten und vergessen“ reicht einfach nicht aus.
Eine schriftliche Richtlinie zeigt, dass die entsprechende Absicht vorhanden ist, sagt aber nicht:
- ob ein KI-Agent eine Verbindung zu einer sensiblen Datenbank herstellen kann
- ob eine Cloud-Workload umfassendere Zugriffsrechte geerbt hat als beabsichtigt
- ob die Segmentierung den Explosionsradius begrenzt
- ob eine Firewall-Regel einen Pfad zulässt, der bereits vor Monaten hätte geschlossen werden müssen
KI-Governance kann scheitern, wenn Unternehmen Richtlinienformulierungen mit durchsetzbaren Kontrollen verwechseln.
Das Problem wird noch gravierender, wenn sich KI-Systeme vom Beobachten und Beraten zum Handeln entwickeln. Jüngste Vorfälle haben zudem die Sicherheitsrisiken autonomer KI-Agenten aufgezeigt, wenn Systeme selbstständig Schwachstellen erkennen, Berechtigungen erweitern und ihr Verhalten anpassen können.
Ein Agent, der Firewall-Änderungen empfiehlt, Tickets eröffnet, Cloud-Ressourcen verändert oder Workflows zur Behebung von Problemen auslöst, stellt ein anderes Maß an Gefährdung dar als ein Assistent mit schreibgeschütztem Zugriff.
Die Frage lautet nicht mehr nur, ob das Modell präzise ist. Es geht darum, wozu das System in der Lage ist, wenn es sich irrt, kompromittiert wurde, zu weitreichende Berechtigungen besitzt oder außerhalb seines vorgesehenen Geltungsbereichs arbeitet. Dieses Risiko wird durch die Identität und Berechtigungen bestimmt, mit denen der Agent arbeitet, durch die Systeme, die er erreichen kann, und durch die Aktionen, zu denen er berechtigt ist.
Hier wird die Netzwerksicherheit zu einem wichtigen Bestandteil der KI-Governance. KI kann Erkennung, Entscheidungsfindung und operative Änderungen beschleunigen. Damit Unternehmen diese Vorteile jedoch sicher nutzen können, benötigen Sicherheitsteams eine stärkere Kontrolle über die Richtlinien, die Erreichbarkeit, Zugriff und Gefährdung steuern. KI-Systeme arbeiten innerhalb der im Unternehmen konfigurierten Zugriffsbedingungen und können diese übernehmen.
Firewalls, Segmentierung, Cloud-Kontrollen und Identitätsrichtlinien sind somit Teil des Durchsetzungsrahmens, der bestimmt, wie weit ein KI-System vordringen kann und was es tun darf.
Transparenz ist keine Kontrolle
Transparenz ist notwendig, doch allein schränkt sie nicht ein, was ein KI-System tun kann. Ein Inventar kann Ihnen sagen, dass ein Agent existiert; es kann jedoch nicht beweisen, dass der Agent nur auf die vorgesehenen Ressourcen zugreift, verbundene Systeme ordnungsgemäß segmentiert sind, Änderungen weiterhin der Richtlinie entsprechen oder Kontrollen noch funktionieren, während sich die Infrastruktur verändert.
KI-Governance muss bis zur Kontrollebene reichen
Der bessere Weg besteht darin, KI-Governance zu einer Erweiterung der bestehenden Technologie-Governance zu machen und nicht zu einer separaten Disziplin, die abseits davon betrieben wird.
KI sollte nach Autonomie und Zugriff klassifiziert werden. Ihre Governance sollte sich danach richten, was sie sehen, entscheiden und ändern kann. Ihre Berechtigungen sollten auf bestehende Kontrollen für Identität, Netzwerk, Cloud, Segmentierung und Anwendungen abgestimmt sein.
Das erfordert, dass Sicherheitsverantwortliche über die Modell-Governance hinausdenken. Das Modellverhalten ist wichtig. Daten-Governance ist wichtig. Die Genehmigung durch Menschen ist wichtig. Doch das Unternehmensrisiko wird auch durch Netzwerkpfade, Firewall-Regeln, Segmentierungsgrenzen, Cloud-Berechtigungen und Richtlinienausnahmen bestimmt. An diesen Stellen wird KI-Governance entweder durchsetzbar oder bleibt ein Wunschbild.
„Es gibt eine nützliche Parallele zu Zero Trust. Das Prinzip „niemals vertrauen, immer überprüfen“ beruht darauf, dass Unternehmen Sicherheitsrichtlinien in kontinuierlich bewertete und durchgesetzte Zugriffsentscheidungen übersetzen. KI-Governance steht vor einer ähnlichen Herausforderung: Richtlinien werden dann bedeutsam, wenn technische Kontrollen bestimmen, auf welche Systeme eine KI-Workload zugreifen kann, welche Identitäten sie verwenden darf und welche Aktionen sie ausführen darf.
Sicherheitsverantwortliche müssen die Einführung von KI nicht stoppen, um sie zu steuern. Sie müssen Governance operativ umsetzen. Für ein effektives Richtlinienmanagement sollte jede Führungskraft im Sicherheitsbereich die folgenden Schritte berücksichtigen:
- Die KI-Nutzung in genehmigten und nicht genehmigten Tools erfassen
- Systeme nach Autonomie und Zugriff klassifizieren
- Verantwortliche aus den Bereichen Business, Technik und Sicherheit benennen
- Die Richtlinie mit Durchsetzungspunkten in Firewall-Richtlinien, Cloud-Kontrollen, Identitätsberechtigungen, Segmentierungsgrenzen, Datenzugriffsregeln und Änderungs-Workflows verknüpfen
- Compliance und Wirksamkeit kontinuierlich validieren
KI-Governance sollte nicht zur Innovationsbremse werden. Richtig umgesetzt, gibt sie Unternehmen die nötige Sicherheit, schneller voranzukommen, ohne Risiken blind auszuweiten. Die Zukunft der KI-Governance wird nicht allein auf der Modellebene entschieden. Sie wird auf der Kontrollebene entschieden, die bestimmt, was KI tatsächlich tun kann.
Weiterlesen: Erfahren Sie, wie Unternehmen durch Governance, Aufsicht und praktische Leitplanken Vertrauen in autonome Systeme schaffen – im Leitfaden zu agentenbasierter Sicherheit und KI-Agenten.