Ein Thema ist mir auf der Proofpoint Protect 2026 besonders aufgefallen. Künstliche Intelligenz verändert die Geschwindigkeit und den Umfang der Sicherheitsarbeit, schreibt aber nicht zwangsläufig das Vorgehen der Angreifer neu.
Daniel Blackford, Vice President of Threat Research, sagte mir, dass Proofpoint trotz des zunehmenden Einsatzes von KI durch Angreifer weiterhin viele der gleichen Telemetriesignale und Sicherheitsprobleme beobachtet.
Sarah Sabotka, Staff Threat Researcher, wies auf eine weitere Folge des KI-Einsatzes durch Angreifer hin.
Bedrohungsakteure mit fundierten technischen Kenntnissen können KI nutzen, um ihre Fähigkeiten zu erweitern. Sie kann ihnen helfen, Phishing-Kampagnen zu verbessern, übersetzte Inhalte überzeugender zu gestalten und Opfer in mehr geografischen Regionen ins Visier zu nehmen.
Diese Vorteile machen Angreifer jedoch nicht zwangsläufig disziplinierter. Ihre operative Sicherheit kann weiterhin leiden, und KI kann sie mitunter nachlässig machen.
Für die Verteidiger besteht die Herausforderung darin, Schritt zu halten, da Angreifer sich mithilfe von KI schneller bewegen können, als Sicherheitsteams ermitteln und reagieren können.
Sicherheit muss die Absicht verstehen
In seiner Keynote betonte Proofpoint-CEO Sumit Dhawan wiederholt die Konzepte „Defend with Intent“ und „Access with Intent“.
Der Gedanke dahinter ist, dass herkömmliche Identitäts- und Verhaltenskontrollen möglicherweise nicht mehr ausreichen, wenn KI-Agenten Zugriff auf Unternehmensdaten und -anwendungen erhalten.
Das von Proofpoint Agentic Data & AI Security System versucht, die Identität und den Zugriff eines Agenten mit dessen Verhalten und Absicht zu verknüpfen. Der Proofpoint Knowledge Graph liefert zusätzlichen Kontext zu den betroffenen Daten. Das System setzt außerdem Agenten ein, um Bedrohungen zu erkennen und zu untersuchen; integrierte Abhilfefunktionen sind dabei Teil des Prozesses.
Das war eines der wichtigsten Themen, die ich von der Konferenz mitgenommen habe. Die Sicherheitsarchitektur muss über die Frage „Kann diese Identität diese Aktion ausführen?“ hinausgehen und stattdessen fragen: „Sollte diese Aktion in diesem Kontext stattfinden?“
Die von Proofpoint Semantic Business Policies sind auf diesem Gedanken aufgebaut. Organisationen können Geschäftsregeln in natürlicher Sprache definieren. Die Plattform übersetzt diese Anforderungen anschließend in Laufzeitkontrollen für Mitarbeitende und autonome Agenten.
Die zugriffsbasierte Intent-Kontrolle bewertet die Aktivitäten von Agenten anhand dieser Richtlinien, während die Aktionen stattfinden. Ein KI-Agent kann beispielsweise technisch berechtigt sein, eine Rückerstattung auszustellen, während die Geschäftsrichtlinie der Organisation vorab eine Genehmigung dafür verlangt.
Auch die Bedrohungserkennung entwickelt sich in diese Richtung
Proofpoint wendet das Prinzip der Absicht über die KI-Governance hinaus an.
Sein Agentic Collaboration Security System kombiniert absichtsbasierte Erkennung mit autonomer Untersuchung. Das System umfasst außerdem Funktionen zur Bewertung des Benutzerrisikos.
Kompromittierte legitime Konten können nur schwer von normaler Aktivität unterschieden werden. Ein Angreifer könnte das Postfach eines Lieferanten übernehmen und monatelange Korrespondenz studieren, bevor er innerhalb eines bestehenden Threads antwortet. Die daraus entstehende Nachricht enthält möglicherweise weder einen schädlichen Anhang noch eine verdächtige Domain. Auch eine offensichtliche Verhaltensanomalie muss sie nicht auslösen.
Das Nexus Intent-Based Detection Model von Proofpoint bewertet stattdessen, was eine Nachricht bewirken soll und ob dieses Ziel im Kontext der Beziehung sinnvoll ist. Es berücksichtigt außerdem die Techniken, mit denen dieses Ziel erreicht werden soll.
Yaniv Miron, Director of Threat Research, sagte mir, ein TeamFiltration-Szenario könne in etwa 90 Sekunden die Kronjuwelen einer Organisation erreichen, ohne Kontosperren auszulösen.
Miron sprach außerdem über indirekte Prompt-Injection. In einem Beispiel nutzte ein Angriff eine Google-Kalendereinladung, um eine indirekte Prompt-Injection-Nutzlast zu übermitteln, und änderte die Einladung später, um Spuren des Geschehenen zu beseitigen. Einen Großteil der heutigen Aktivitäten beschrieb er als Experimentieren, erwartet jedoch in den kommenden Monaten weitere indirekte Prompt-Injection-Angriffe in freier Wildbahn.
KI-Risiken gehen über Cyberangriffe hinaus
Ein weiterer bemerkenswerter Punkt stammte von Ryan Kalember, Chief Strategy Officer von Proofpoint. Er sagte, ein großer Teil des KI-Risikos, das Proofpoint derzeit beobachtet, sei kein herkömmliches Cyberrisiko.
Er beschrieb Mitarbeitende, die befürchteten, KI könne ihre Arbeitsplätze ersetzen, und einem KI-System wiederholt sagten, seine Antworten seien falsch, um es zu untergraben.
KI-Governance muss daher Risiken berücksichtigen, die über herkömmliche Sicherheitsbedrohungen wie Malware oder Datendiebstahl hinausgehen. Proofpoint zufolge stoßen Kunden außerdem auf Betrug und unzulässige Nutzungen von KI. Das Verhalten von Mitarbeitenden bringt eine weitere Sorge mit sich, insbesondere wenn dadurch regulatorische oder Compliance-Probleme entstehen.
Governance beginnt außerdem damit, zu wissen, wo KI eingesetzt wird. Organisationen benötigen Transparenz über die KI-Systeme und Agenten, die in ihrer Umgebung betrieben werden, sowie darüber, worauf diese Systeme zugreifen können. Sie müssen auch verstehen, welche Geschäftsprozesse von ihnen abhängen.
Autonomie erfordert weiterhin messbares Vertrauen
Der Einsatz von Agenten erfordert ein neues Nachdenken über Vertrauen. Ich fragte Daniel Rapp, Chief AI and Data Officer von Proofpoint, woran das Unternehmen erkennt, wann es Vertrauen von einem Menschen an einen Agenten übertragen kann. Er sagte mir, Proofpoint bewertet Agenten anhand ihrer prognostizierten und operativen Leistungsfähigkeit.
Proofpoint vergleicht Agenten und Menschen anhand von Kennzahlen wie Bearbeitungszeit und falsch-positiven Ergebnissen. Das Unternehmen bewertet außerdem falsch-negative Ergebnisse, bevor es Sicherheitsverantwortung auf autonome Systeme überträgt.
Diese Bewertung hilft zu bestimmen, wo Automatisierung sinnvoll ist, anstatt einfach anzunehmen, eine Aufgabe solle automatisiert werden, nur weil ein Agent sie ausführen kann. Proofpoints Architektur unterstützt weiterhin die Überwachung durch Menschen, während folgenschwere Entscheidungen die Genehmigung eines Menschen erfordern können.
Meine wichtigste Erkenntnis von Protect 2026 ist, dass es bei KI-Sicherheit immer weniger darum geht, ein weiteres Sicherheitsprodukt hinzuzufügen, und immer mehr darum, die Art und Weise neu zu gestalten, wie Organisationen Sicherheitsentscheidungen treffen. Während Agenten größeren Zugriff erhalten und Angreifer schneller agieren, bleiben Identitäts- und Verhaltenssignale wichtig, reichen aber möglicherweise nicht mehr aus.
Die nächste Phase der Unternehmenssicherheit wird zunehmend davon abhängen, zu verstehen, was ein Agent zu tun versucht und ob dies im aktuellen Kontext sinnvoll ist.
Sicherheitsteams müssen außerdem feststellen, ob der Agent über den für die Ausführung erforderlichen Zugriff verfügen sollte und ob die Aktion angemessen ist – selbst wenn der Agent technisch dazu berechtigt ist.
Dadurch wird die Steuerung agentischer KI zu einem wichtigen Bestandteil der Bestimmung, wie viel Autonomie Organisationen diesen Systemen zu geben bereit sind.