KI-Agenten. Sie sind überall. Im Fernsehen, im öffentlichen Nahverkehr und sogar in Stadien gibt es Werbung für sie.
Für Sicherheitsfachleute sind sie unausweichlich: Fast jeder Anbieter versucht, ein Produkt zu verkaufen, das sie nutzt – so sehr, dass der Begriff beinahe seine Bedeutung verloren hat.
Deshalb haben Sicherheitspraktiker begonnen, ihre eigene agentische KI für die Sicherheit zu entwickeln, zu konfigurieren und zu betreiben.
Selbst entwickelte Agenten schließen die Lücken, die Standardtools nicht abdecken können. Open-Source-KI-Agenten ohne Herstellerbindung können viel dazu beitragen, die kollektive Abwehr zu stärken. Doch ohne angemessene Governance, können sie mehr schaden als nutzen.
Warum entwickeln Sicherheitsteams eigene Agenten und teilen sie?
Dafür gibt es drei Hauptgründe: KI-Agenten funktionieren, selbst entwickelte Agenten funktionieren besser, und Open-Source-Agenten stärken die kollektive Abwehr.
Warum sollte man überhaupt KI-Agenten einsetzen?
Trotz des Hypes liefert agentische KI für die Sicherheit konkrete Ergebnisse.
Laut dem Verizon DBIR 2026, müssen Organisationen 50 % mehr CISA-KEV-Schwachstellen beheben als noch vor einem Jahr. Da die Zahl der Schwachstellen steigt, müssen Sicherheitsteams sie schneller als je zuvor finden, priorisieren und schließen. KI-Agenten können ihnen dabei helfen.
Ein agentisches KI-System kann Schwachstellen ohne menschliches Eingreifen korrelieren, priorisieren und in manchen Fällen sogar beheben. Dadurch sinkt die mittlere Reaktionszeit (MTTR) drastisch – eine dringende Priorität, wenn man bedenkt, dass derselbe Bericht zeigt, dass die mittlere Zeit zum Schließen von CISA-KEV-Schwachstellen im Jahresvergleich von 32 auf 43 Tage gestiegen ist.
Warum eigene KI-Agenten entwickeln?
Standardtools erfüllen selten geschäftsspezifische Anforderungen. Generische KI-Agenten weisen häufig Kontextlücken auf, verfügen nicht über ausreichende Kontrollen und Leitplanken und zeigen eine Abweichung von ihrer ursprünglichen Absicht.
Praktiker entwickeln eigene Agenten, um diese Schwächen zu beheben.
Sie integrieren sie tief in ihre Sicherheitsarchitektur und lokale Telemetrie. Sie versehen sie mit strengen Zulassungslisten für Tools und klaren Ausführungsgrenzen. Eigene Entwicklungszyklen ermöglichen engmaschigere Genehmigungsschleusen mit menschlicher Beteiligung. Schließlich verbinden Model-Context-Protocol-(MCP)-Server diese Agenten mit Tools.
Warum KI-Agenten teilen?
Ein MCP-Server – mit über 10.000 aktiven Servern und 7 Millionen Downloads pro Monat das mit Abstand vorherrschende agentische Protokoll – macht Agenten zudem unabhängig von Anbietern und teilbar.
Ein Praktiker kann beispielsweise einen MCP-Server für ein bestimmtes Erkennungstool schreiben, ohne darauf angewiesen zu sein, dass ein Anbieter diese Integration ausliefert. Ebenso können Praktiker aus verschiedenen Teams und sogar Organisationen von Kollegen entwickelte MCP-Server übernehmen und ausführen.
Das Teilen von KI-Agenten auf diese Weise stärkt die kollektive Abwehr ebenso wie Open-Source-Bedrohungsinformationen.
Durch Open-Source-Bedrohungsinformationen erhalten Sicherheitsteams die nötigen Informationen, um eine Schwachstelle zu schließen oder einen Angriff abzuwehren.
Open-Source-agentische KI für die Sicherheit geht noch einen Schritt weiter: Sie stellt Teams ein fertiges Tool bereit, das die Arbeit erledigen kann, statt sie zum eigenen Aufbau von Grund auf zu zwingen.
Das Governance-Problem von KI-Agenten lösen
Bei allen Vorteilen können Praktiker jedoch nicht einfach ohne Aufsicht KI-Agenten aufsetzen. Das sind keine Chatbots, die lediglich Text generieren – sie führen Aktionen aus.
Wenn ein Agent ohne menschliche Genehmigung autonom Code schreiben, Datenspeicher abfragen und Netzwerkkonfigurationen ändern kann, birgt das unstrukturierte Teilen oder die unbeaufsichtigte Nutzung erhebliche betriebliche Risiken.
Überträgt man dieses Risiko auf ganze Ökosysteme oder sogar Branchen, ist das Missbrauchspotenzial enorm und kann nicht ignoriert werden.
Wie muss Governance also aussehen, bevor man Agenten Schreibzugriff gewähren kann?
Wenden Sie zunächst das Prinzip der geringsten Privilegien an – als Ausgangsbedingung, nicht als nachträglichen Gedanken.
Der einfachste Weg, Agenten einzusetzen, besteht darin, ihnen Zugriff auf alles zu gewähren und sie gewähren zu lassen. Das bringt jedoch unnötige Risiken mit sich. Wenn Agenten nur auf das absolut Notwendige zugreifen dürfen, werden unbeabsichtigte Folgen an anderer Stelle im Unternehmen verhindert.
Führen Sie anschließend für Aktionen mit den größten Auswirkungen Kontrollpunkte mit menschlicher Beteiligung ein.
In der Regel kann man Agenten ohne vorherige Genehmigung die Durchführung von Aktionen mit geringen Auswirkungen anvertrauen, etwa die Triage von Warnmeldungen und die Korrelation von Logs, da ein Fehler keinen allzu großen Schaden anrichten würde. Fehlerhafte Aktionen mit großen Auswirkungen, etwa Schreibvorgänge in Produktionssystemen, können ein Unternehmen lahmlegen. Deshalb ist die Genehmigung durch einen Menschen unerlässlich.
Schließlich müssen Agenten revisionssicher sein. Gute Audit-Trails für Sicherheitsagenten protokollieren nicht nur, welche Aktion ausgeführt wurde, sondern auch, warum der Agent sie ausgeführt hat, worauf er zugegriffen hat und wer sie genehmigt hat. Diese Informationen sollten in manipulationssicheren, abfragbaren Aufzeichnungen festgehalten werden, die ein Mensch nachträglich prüfen kann.
Wie können Teams messen, ob sich KI-Agenten auszahlen?
Auch wenn der zugrunde liegende Code und die Logik gemeinsam genutzter KI-Agenten oft kostenlos sind, ist ihr Betrieb und ihre Absicherung das nicht. Deshalb müssen Sie sicherstellen, dass sich der Aufwand lohnt.
Das bedeutet, sie anhand konkreter Ergebniskennzahlen zu messen. Ist Ihre MTTR gesunken? Haben Sie die Triage-Last der Analysten reduziert? Übersehen Sie weniger Befunde mit hohem Schweregrad? Das sind einige der Fragen, die Sie sich und Ihrem Team stellen müssen.
Welche Zukunft haben Open-Source-KI-Agenten?
Je vertrauter Praktiker mit der Entwicklung eigener agentischer KI für die Sicherheit werden, desto mehr solcher Tools werden wahrscheinlich entstehen. Online-Austauschplattformen werden beliebter werden, und die kollektive Abwehr wird davon profitieren.
Eine Katastrophe ist jedoch nicht ausgeschlossen. Ein bösartiger Open-Source-Agent kann – und wird wahrscheinlich – erhebliche Betriebsstörungen oder Sicherheitsverletzungen verursachen.
Deshalb ist Governance so wichtig und deshalb müssen Sie bei der Auswahl der von Ihnen implementierten Agenten wählerisch sein.