Da Organisationen zunehmend autonome KI-Agenten einsetzen, könnten bestehende Schwachstellen in der Netzwerksicherheit dazu führen, dass diese Systeme über ihre vorgesehenen Zuständigkeiten hinaus agieren.
Herkömmliche Schutzmaßnahmen für KI gehen möglicherweise nicht ausreichend auf diese Risiken ein, insbesondere wenn Netzwerkzugriffsrichtlinien zu großzügig gefasst sind.
Jüngste gemeinsame Leitlinien von NIST, CISA und der NSA befassen sich mit der Vorbereitung auf und der Reaktion auf Sicherheitsvorfälle bei hochleistungsfähigen KI-Systemen.
Ich habe Dan Rheault, den Leiter des Produktmanagements bei FireMon, per E-Mail dazu befragt, was Organisationen aus den Leitlinien lernen können und wie Sicherheitsteams ihre Netzwerke vorbereiten sollten, bevor sie KI-Agenten mehr Autonomie gewähren.
- KI-Agenten verstärken bestehende Schwachstellen in der Netzwerksicherheit
- Zu großzügige Richtlinien vergrößern die potenzielle Angriffsfläche
- Herkömmliche Netzwerksicherheit benötigt zusätzliche Durchsetzungsebenen
- Die Eindämmung von Sicherheitsvorfällen muss vor der Bereitstellung getestet werden
- Drei Prioritäten für die Absicherung autonomer KI-Agenten
- Fazit
KI-Agenten verstärken bestehende Schwachstellen in der Netzwerksicherheit
„Das vorgesehene Verhalten eines Agenten ist keine durchsetzbare Sicherheitsgrenze“, erklärte Rheault und betonte, dass Organisationen die Anweisungen eines Agenten nicht mit unabhängig durchgesetzten Sicherheitskontrollen verwechseln sollten.
Obwohl sich die Leitlinien der US-Bundesbehörden in erster Linie mit dem Training und der Bewertung fortgeschrittener KI befassen, ist Rheault überzeugt, dass ihre grundlegenden Sicherheitsprinzipien auch für den Einsatz in Unternehmen gelten.
KI-Agenten bringen zusätzliche Risiken mit sich, weil sie autonome Entscheidungen treffen können, während sie möglicherweise weitreichenden Zugriff auf Unternehmenssysteme haben.
Ihre Fähigkeit, Aktionen mit Maschinengeschwindigkeit auszuführen, erhöht zudem die möglichen Folgen eines Fehlers. Eine einzige Anweisung könnte mehrere Aktionen in miteinander verbundenen Systemen auslösen und die Auswirkungen über den vorgesehenen Arbeitsablauf hinaus ausweiten.
Ein KI-Agent, der für die Erstellung von Berichten zuständig ist, könnte beispielsweise auch über Netzwerkzugriff auf Administrationsschnittstellen der Produktionsumgebung verfügen. Selbst wenn der Agent diese Verbindungen niemals nutzt, führt ihre Verfügbarkeit zu einer unnötigen Angriffsfläche.
Rheault empfiehlt, potenzielle Zugriffspfade zu untersuchen, statt sich ausschließlich auf den beobachteten Netzwerkverkehr zu verlassen. Sicherheitsteams müssen verstehen, welche Systeme ein Agent erreichen könnte – nicht nur, auf welche Systeme er bereits zugegriffen hat.
Zu großzügige Richtlinien vergrößern die potenzielle Angriffsfläche
Über Jahre angesammelte Firewall-Regeln und veraltete Zugriffsrichtlinien können erhebliche Herausforderungen schaffen, wenn Organisationen autonome KI-Agenten einführen. Nicht dokumentierte Netzwerkverbindungen können die Bemühungen, unnötige Angriffsflächen zu identifizieren, zusätzlich erschweren.
Ein Agent, der mit dem Abrufen von Bestandsinformationen beauftragt ist, könnte Zugriff auf ein gesamtes Anwendungs-Subnetz erben und dadurch möglicherweise nicht zugehörige Datenbanken oder Managementschnittstellen offenlegen.
Die Netzwerkkonnektivität allein berechtigt einen Agenten nicht dazu, diese Systeme zu verändern. Übermäßige Anwendungsberechtigungen könnten jedoch unbefugte Aktionen ermöglichen, insbesondere wenn offengelegte Zugangsdaten oder ausnutzbare Schwachstellen hinzukommen.
Rheault empfiehlt, den geschäftlichen Zweck jedes Agenten den Netzwerkpfaden und Diensten zuzuordnen, die für die Erledigung seiner Aufgaben erforderlich sind. Sicherheitsteams sollten außerdem die erforderlichen Identitäten und Berechtigungen bestimmen, bevor sie Zugriff gewähren.
Tests sollten über die bloße Bestätigung hinausgehen, dass ein Agent seine zugewiesenen Aufgaben erledigen kann.
„Der erfolgreiche Abschluss einer Aufgabe beweist, dass der Agent über ausreichenden Zugriff verfügt. Negativtests bestätigen, dass er nicht über zu weitreichenden Zugriff verfügt“, sagte Rheault.
Herkömmliche Netzwerksicherheit benötigt zusätzliche Durchsetzungsebenen
Herkömmliche Firewalls und Netzwerkmaßnahmen bleiben relevant. Rheault warnte jedoch, dass sie nicht eigenständig feststellen können, ob jede von einem KI-Agenten ausgeführte Aktion autorisiert ist.
Ein Agent könnte rechtmäßig eine genehmigte API aufrufen, während er versucht, eine Operation außerhalb seiner zugewiesenen Zuständigkeiten durchzuführen.
Organisationen benötigen daher koordinierte Sicherheitskontrollen, die den Netzwerkzugriff beschränken und identitätsbasierte Berechtigungen durchsetzen. Die Autorisierung auf Anwendungsebene und Einschränkungen auf Werkzeugebene bieten zusätzliche Schutzmaßnahmen gegen unbefugte Aktionen.
Hybride Umgebungen erschweren die Durchsetzung, weil sich die Sicherheitskontrollen in der Cloud von herkömmlichen Firewall-Richtlinien unterscheiden können. Richtlinien auf Workload-Ebene können zu weiteren Inkonsistenzen bei der Zugriffsverwaltung führen.
Sicherheitsteams sollten klare Beziehungen zwischen genehmigten Geschäftsaktivitäten und den Identitäten der Agenten herstellen. Diese Beziehungen sollten außerdem die Anwendungsberechtigungen und Netzwerkverbindungen definieren, die jeder Agent benötigt.
Die Eindämmung von Sicherheitsvorfällen muss vor der Bereitstellung getestet werden
Die gemeinsamen Leitlinien betonen, dass die Eindämmung überprüft werden muss, bevor betroffene Systeme den Betrieb wieder aufnehmen.
Rheault empfiehlt, Funktionen vorzubereiten, mit denen sich betroffene Workloads isolieren und ausgehende Netzwerkverbindungen beschränken lassen. Sicherheitsteams sollten außerdem in der Lage sein, die Ausführung des Agenten zu stoppen und relevante Zugangsdaten zu widerrufen, um weitere unbefugte Aktivitäten zu verhindern.
Sicherheitsteams müssen bestätigen, dass Änderungen an der Firewall bestehende Verbindungen beenden, statt davon auszugehen, dass aktualisierte Regeln sofort jeglichen Datenverkehr blockieren.
Bevor ein betroffener Agent neu gestartet wird, sollten Organisationen das problematische Verhalten in einer isolierten Umgebung reproduzieren. Sie müssen überprüfen, dass verbotene Verbindungen fehlschlagen, ohne legitime Vorgänge zu beeinträchtigen.
Teams sollten außerdem bestätigen, dass Überwachungswarnungen ordnungsgemäß funktionieren. Weitere Tests sollten überprüfen, dass alternative Netzwerkpfade die aktualisierten Sicherheitsbeschränkungen nicht umgehen können.
Drei Prioritäten für die Absicherung autonomer KI-Agenten
Rheault nannte drei Prioritäten, die Organisationen vor der Bereitstellung autonomer KI-Agenten angehen sollten:
- Transparenz schaffen: Jeden Agenten und seinen geschäftlichen Zweck dokumentieren. Seine Ausführungsumgebung und Identität bestimmen und anschließend die erforderlichen Abhängigkeiten sowie genehmigten Netzwerkziele erfassen. Nicht erklärte Zugriffspfade untersuchen.
- Zugriffsgrenzen durchsetzen: Netzwerkbeschränkungen nach dem Prinzip der geringsten Rechte zusammen mit identitätsbasierten Berechtigungen anwenden. Autorisierung auf Anwendungsebene und Kontrollen auf Werkzeugebene einrichten, um unbefugte Aktionen zu verhindern. Testen, dass genehmigte Aktivitäten erfolgreich ausgeführt werden, während verbotene Aktivitäten fehlschlagen.
- Eindämmung kontinuierlich validieren: Messen, wie schnell Sicherheitsteams verdächtige Aktivitäten erkennen und betroffene Agenten isolieren können. Überprüfen, dass verbotene Verbindungen einschließlich bestehender Sitzungen beendet werden. Wiederherstellungsverfahren regelmäßig durchspielen, um zu bestätigen, dass die Eindämmungskontrollen wirksam bleiben.
Fazit
Die übergeordnete Erkenntnis ist meiner Ansicht nach, dass Sicherheit und Governance von KI nicht ausschließlich davon abhängen dürfen, wie Agenten zu ihrem Verhalten angewiesen werden. Wenn Organisationen Agenten mehr Autonomie gewähren, müssen Sicherheitsteams ihre Zugriffsgrenzen unabhängig durchsetzen und kontinuierlich überprüfen, ob diese Kontrollen wie vorgesehen funktionieren.
Weitere Hinweise finden Sie in unserer Checkliste zur Sicherheit von KI-Agenten, um die Sicherheitskontrollen zu bewerten, die Organisationen vor der Bereitstellung autonomer Agenten eingerichtet haben sollten.