Agentic Security: So schaffen Sie Vertrauen in KI-Agenten 

Agentic Security entwickelt sich schnell zu einem der wichtigsten Themen in der Cybersicherheit, während Unternehmen prüfen, wie KI-Agenten Sicherheitsabläufe automatisieren können. 

Die Debatte dreht sich nicht mehr darum, ob KI in das Security Operations Center (SOC) gehört, sondern darum, ob Unternehmen KI-Agenten vertrauen können, innerhalb von Produktionsumgebungen Entscheidungen zu treffen.

Bedrohungsakteure setzen KI bereits ein, um Phishing -Kampagnen, Aufklärung und die Entwicklung von Schadsoftware zu beschleunigen, sodass sich Angriffe mit Maschinengeschwindigkeit entfalten können. 

Unterdessen verlassen sich viele Verteidiger weiterhin auf Abläufe, die für eine deutlich langsamere Ära entwickelt wurden. 

Laut dem State of Agentic Security -Bericht von Strike48 sind 84 % der Sicherheitsverantwortlichen der Ansicht, dass KI-Agenten Sicherheitsabläufe der Stufe 1 (L1) übernehmen sollten. Dennoch haben erst 36 % Agenten für auch nur einen einzigen Produktionsanwendungsfall eingesetzt, und lediglich 22 % sind bereit, grundlegende L1-Aufgaben zu automatisieren.

Diese Diskrepanz macht die zentrale Herausforderung der Agentic Security heute deutlich: Vertrauen.

Tim Leehealey, Gründer und VP of Strategy & Operations bei Strike48, erklärte, dass die Einführung in Unternehmen trotz der wachsenden Unterstützung durch die Führungsebene weitgehend experimentell bleibe.

„Sobald Teams mit dem Testen beginnen und sehen, dass sie einem Agenten vertrauen können, echte Aktionen auszuführen, ändert sich alles“, erklärte Leehealey. „Einen KI-Agenten einzurichten, ist trivial. Einen Agenten bereitzustellen, dem man um 3 Uhr morgens eine unbeaufsichtigte Aktion anvertrauen würde, ist eine völlig andere Disziplin.“

Die wichtigsten Erkenntnisse zur Sicherheit von KI-Agenten

• Die Einführung von Agentic Security beschleunigt sich, doch Vertrauen bleibt die größte Hürde. Während 84 % der Sicherheitsverantwortlichen der Ansicht sind, dass KI-Agenten Sicherheitsabläufe der Stufe 1 übernehmen sollten, haben erst 36 % sie in der Produktion eingesetzt, und lediglich 22 % sind bereit, grundlegende L1-Aufgaben zu automatisieren.
• Unternehmen sollten mit risikoarmen SOC-Abläufen beginnen. Die Triage und Priorisierung von Warnmeldungen, die Bedrohungssuche und Untersuchungen gehören zu den Sicherheitsabläufen, die sich am besten für KI-Agenten eignen, während bei risikoreicheren Aktionen weiterhin eine Kontrolle durch Menschen erforderlich sein sollte.
• Datentransparenz ist für leistungsfähige KI-Agenten unerlässlich. Ein unvollständiger Zugriff auf Sicherheitstelemetrie schränkt die Fähigkeit eines KI-Agenten ein, präzise Entscheidungen zu treffen, und macht eine einheitliche Transparenz zu einer grundlegenden Voraussetzung für Agentic Security.
• Vertrauen muss durch Governance und Transparenz erworben werden. Deterministische Abläufe, Prüfpfade, nachvollziehbare Entscheidungsfindung und eine konfigurierbare menschliche Kontrolle helfen Unternehmen, KI-Agenten mit Zuversicht einzuführen und gleichzeitig das Betriebsrisiko zu senken.

Warum Vertrauen die größte Herausforderung bei Agentic Security ist

Viele Sicherheitsverantwortliche erkennen die betrieblichen Vorteile, die KI-Agenten bieten könnten – insbesondere bei repetitiven Sicherheitsabläufen mit hohem Volumen. 

Das Vertrauen in autonome Entscheidungsfindung bleibt jedoch begrenzt.

Die Untersuchung von Strike48 ergab, dass 52 % der Unternehmen unzureichendes Vertrauen in KI-Ausgaben als Hauptgrund dafür nennen, KI-Agenten bisher nicht umfassend eingesetzt zu haben. 

Sicherheitsverantwortliche befürchten, dass Agenten unbeabsichtigte oder schädliche Aktionen ausführen könnten (71 %), falsche Schlussfolgerungen halluzinieren (69 %) oder Entscheidungen auf Grundlage unvollständiger Daten treffen könnten (57 %).

Leehealy hält diese Bedenken für vollkommen rational.

„Wenn Agenten falschliegen, strahlen sie Selbstsicherheit aus“, sagte er. „Eine selbstsicher vorgetragene falsche Antwort, und der Analyst glaubt keiner dieser Antworten mehr. Vertrauen ist hier ein technisches Problem, kein emotionales.“

Statt von Unternehmen zu verlangen, KI blind zu vertrauen, empfiehlt Leehealey, dass Anbieter Plattformen für Agentic Security entwickeln, die durch deterministische Abläufe, transparente Schlussfolgerungen, vollständige Prüfpfade und klar definierte Leitplanken Vertrauen schaffen.

Warum KI-Agenten weiterhin menschliche Kontrolle benötigen

Berichte über Fehler von KI haben die Bedenken hinsichtlich autonomer Sicherheitsabläufe verstärkt. 

Leehealey zufolge spiegeln diese Vorfälle jedoch häufig unrealistische Erwartungen wider und keine Fehler der zugrunde liegenden Technologie.

„Agenten müssen mit deterministischen Abläufen, Toolsets, Skripten und Playbooks gekoppelt werden, wenn sie technisch präzise arbeiten sollen“, sagte er.

Statt Menschen vollständig abzuziehen, sollten Unternehmen zu dem übergehen, was Leehealey als „human on the loop“ statt als „human in the loop“ bezeichnet. 

Sicherheitsteams legen Governance-Richtlinien fest, bestimmen, für welche Aktionen eine Genehmigung erforderlich ist, und überwachen die Ergebnisse kontinuierlich, während sie KI-Agenten risikoärmere, repetitive Aufgaben übernehmen lassen.

Dieser Ansatz ermöglicht es Unternehmen, die Automatisierung schrittweise auszuweiten und gleichzeitig bei risikoreicheren Entscheidungen die menschliche Kontrolle beizubehalten – ein praxisnaher Weg zu einer vertrauenswürdigen SOC-Automatisierung.

Wo Unternehmen mit KI-Agenten im SOC beginnen sollten 

Sicherheitsverantwortliche scheinen sich einig zu sein, wo KI-Agenten unmittelbar einen Mehrwert bieten können.

Der Umfrage zufolge würden 60 % zunächst die Triage und Priorisierung von Warnmeldungen automatisieren, gefolgt von der Bedrohungssuche in historischen Daten (39 %) sowie Untersuchungen und Ursachenanalysen (36 %).

Bei diesen SOC-Abläufen geht es darum, große Informationsmengen zu sammeln, zu korrelieren und zusammenzufassen, statt unumkehrbare betriebliche Entscheidungen zu treffen. Damit eignen sie sich gut für KI-gestützte Sicherheitsabläufe.

„Sobald eine Aufgabe etwas bewirken kann, das sich nicht einfach rückgängig machen lässt, etwa eine Eindämmung oder Behebung mit Auswirkungen auf die Produktion, gehört ein Mensch in den Prozess“, sagte Leehealey.

Er warnte außerdem davor, einzelne Aufgaben zu automatisieren, ohne den umgebenden Ablauf neu zu gestalten. 

Die größten Effizienzgewinne entstehen, wenn KI-Agenten einen vollständigen Ablauf der Stufe 1 oder 2 abschließen und nur Vorfälle eskalieren, die menschliches Urteilsvermögen erfordern.

Datentransparenz ist für Agentic Security unerlässlich

Vertrauen ist nur ein Teil der Gleichung. Der Bericht identifiziert außerdem die Datentransparenz als großes Hindernis für erfolgreiche Agentic Security.

Vierundachtzig Prozent der Sicherheitsverantwortlichen geben an, dass ihre aktuellen Sicherheitstools nicht auf alle verfügbaren Protokolldaten zugreifen können, während 65 % sagen, dass Untersuchungen ins Stocken geraten sind, weil kritische Informationen in Systemen gefangen waren, die ihre Tools nicht erreichen konnten.

Leehealey wies darauf hin, dass KI-Agenten dieselben blinden Flecken übernehmen wie die Infrastruktur, die sie unterstützt.

„Unsere Untersuchung hat ergeben, dass 84 % der Sicherheitsteams nicht auf all ihre Protokolldaten zugreifen können“, sagte er. „Jeder Agent, der auf einem unvollständigen Bild basiert, übernimmt dieselben blinden Flecken wie die zugrunde liegende Infrastruktur.“

Eine bessere Transparenz über SIEM-Plattformen, Cloud-Umgebungen, archivierte Protokolle und andere Sicherheitstools ermöglicht es KI-Agenten, auf Grundlage eines vollständigeren Bildes der Umgebung zu schlussfolgern, blinde Flecken zu reduzieren und die Qualität automatisierter Sicherheitsabläufe zu verbessern.

Wie Unternehmen KI-Agenten vor dem Produktionseinsatz bewerten sollten 

Unternehmen sollten KI-Agenten genauso bewerten, wie sie einen neuen Sicherheitsanalysten bewerten würden, bevor sie ihn an Sicherheitsabläufen beteiligen.

Leehealey empfiehlt zu prüfen, ob Agenten bei identischen Eingaben konsistent dieselben Ergebnisse liefern, erkennen, wenn ihnen ausreichende Informationen fehlen, und unsichere Situationen angemessen eskalieren, statt zu raten.

„Ich schlage normalerweise vor, einen Agenten wie einen neuen Analysten zu behandeln, dem man noch nicht vertraut“, sagte er. „Lassen Sie ihn Entscheidungen treffen, ohne handeln zu können, und bewerten Sie ihn im Vergleich zu Ihrem Team. Vertrauenswürdig bedeutet nicht beeindruckend. Es bedeutet vorhersehbar.“

Da die Fähigkeiten von KI weiter ausgereift werden, erwartet Leehealey, dass routinemäßige L1-Aufgaben und ein großer Teil der heutigen L2-Arbeit auf KI-Agenten übergehen. Dadurch können sich Analysten auf Untersuchungen, Entscheidungsfindung, Governance und höherwertige Sicherheitsaufgaben konzentrieren.

Unternehmen diskutieren nicht mehr darüber, ob Agentic Security Teil des modernen SOC wird. 

Stattdessen besteht die Herausforderung darin, KI-Agenten durch transparente Governance, vollständige Datentransparenz, prüfbare Abläufe und eine kontrollierte Ausweitung ihrer Autonomie verantwortungsvoll einzusetzen. 

Unternehmen, die bereits heute Vertrauen in ihre Agentic-Security-Strategie integrieren, werden besser auf die Abwehr zunehmend KI-gestützter Angreifer vorbereitet sein, die mit Maschinengeschwindigkeit operieren.