Phishing mit KI macht das Management menschlicher Risiken unverzichtbar

Sicherheitsteams bekämpfen nicht nur mehr Angriffe – sie bekämpfen auch schnellere, und die Lücke zwischen Erkennung und Schaden wird von Tag zu Tag kleiner. 

Da KI Phishing, Identitätsmissbrauch und automatisierte Aufklärung beschleunigt, stellen Unternehmen fest, dass herkömmliche Ansätze nach dem Muster „Erkennen und Reagieren“ kaum Schritt halten können, wenn die schwächste Stelle nach wie vor die menschliche Entscheidungsfindung ist.

„Die Bedrohungslandschaft hat sich grundlegend verändert. KI komprimiert die Zeitabläufe von Angriffen, ermöglicht Social Engineering in nie dagewesener Größenordnung und Raffinesse, und traditionelle Modelle nach dem Muster ‚Erkennen und Reagieren‘ können einfach nicht Schritt halten“, sagte Ashley Rose, CEO von Living Security in einer E-Mail an eSecurityPlanet.  

Sie fügte hinzu: „Wenn Angreifer KI einsetzen, um Filter mit kulturell treffsicherem, personalisiertem Phishing zu umgehen, und KI-Agenten zur neuen Schatten-IT werden, brauchen Sicherheitsteams Technologien, die Bedrohungen vorhersagen und verhindern, statt nur zu reagieren.“ 

Menschliches Fehlverhalten verursacht weiterhin Sicherheitsverletzungen

Das ist weniger ein Problem der Werkzeuge als eines des Betriebsmodells. 

Viele Unternehmen haben bereits massiv in Sicherheitskontrollen, Security-Awareness-Schulungen und Überwachungsplattformen investiert – doch die Ergebnisse haben sich nicht im gleichen Maß verbessert wie die Bedrohungen. 

Laut dem Verizon Data Breach Investigations Report (DBIR) von 2025 trägt menschliches Fehlverhalten weiterhin zu rund 60 % der Sicherheitsverletzungen bei, obwohl Sicherheitsbudgets und Anbieterökosysteme wachsen.

Deshalb gewinnt das Human Risk Management (HRM) als Ansatz an Bedeutung: Es konzentriert sich darauf, risikoreiches Verhalten frühzeitig zu erkennen und die Wahrscheinlichkeit einer Kompromittierung zu verringern, bevor es zu einer Sicherheitsverletzung kommt. 

Was Human Risk Management wirklich bedeutet

HRM ist nicht einfach eine neue Bezeichnung für Security-Awareness-Schulungen – es ist ein Rahmenwerk, mit dem sich Risiken messen lassen, so wie Sicherheitsteams Schwachstellen, Fehlkonfigurationen und Identitätsrisiken messen. 

Statt davon auszugehen, dass der Abschluss einer Schulung gleichbedeutend mit Bereitschaft ist, legt HRM den Schwerpunkt darauf, ob sich Verhaltensweisen in die richtige Richtung entwickeln und das Risiko im Laufe der Zeit sinkt.

Das ist wichtig, weil Angreifer zunehmend auf Techniken setzen, die herkömmliche Sicherheitsfilter umgehen, indem sie normale menschliche Instinkte ausnutzen: Dringlichkeit, Autorität, Hilfsbereitschaft und Vertrautheit. 

KI macht diese Taktiken skalierbarer und überzeugender, sodass Phishing-Versuche entstehen, die kulturell treffsicher, personalisiert und kontextsensitiv wirken. 

In vielen Fällen benötigt der Angreifer keine ausgeklügelte Malware oder Exploit-Ketten mehr – eine kompromittierte Identität und ein Weg zur Ausweitung der Zugriffsrechte reichen aus.

Parallel dazu kommt es zu einer zweiten Umwälzung: KI-Agenten und Automatisierungen werden in Unternehmensabläufe integriert. 

Diese Werkzeuge können die Produktivität steigern, aber auch neue Formen von Schatten-IT, riskanten Berechtigungen und unbeabsichtigter Datenoffenlegung schaffen – insbesondere wenn Beschäftigte nicht genehmigte Tools einsetzen oder KI-Agenten ohne Leitplanken mit sensiblen Systemen verbinden.

Kleine Fehler, große Sicherheitsvorfälle

Aus praktischer Sicherheitsperspektive ist besonders besorgniserregend, dass menschliches Risiko nur selten in Form einer einzelnen katastrophalen Handlung auftritt. 

Stattdessen beginnen Sicherheitsverletzungen häufig mit kleinen Entscheidungen, die sich im Laufe der Zeit summieren:

• Während einer hektischen Phase auf eine überzeugende Phishing-Ködernachricht klicken.
• Anmeldedaten für mehrere Dienste wiederverwenden.
• Eine OAuth-App genehmigen, ohne ihren Zugriffsbereich zu verstehen.
• Übermäßige Berechtigungen erteilen, um „schneller voranzukommen“.
• Ein KI-Tool verwenden, um sensible Daten außerhalb genehmigter Systeme zusammenzufassen.

Jede dieser Verhaltensweisen mag für sich genommen harmlos wirken. 

Zusammen können sie jedoch ideale Bedingungen für den Diebstahl von Anmeldedaten, laterale Bewegungen und Datenverlust schaffen – insbesondere wenn Angreifer KI einsetzen, um ihre Nachrichten und den Zeitpunkt für maximalen Erfolg maßzuschneidern.

Das ist die zentrale Idee hinter modernem HRM: Risiko ist nicht statisch. 

Es entwickelt sich, baut sich auf und schnellt abhängig von Kontext, Zugriffsebenen und Verhaltensmustern in die Höhe. Unternehmen, die wirksam reagieren, können diese Entwicklungen frühzeitig erkennen und schnell eingreifen.

Menschliche Risiken reduzieren

Da KI-gesteuerte Angriffe schneller und personalisierter werden, müssen Unternehmen menschzentrierte Risiken reduzieren, ohne sich ausschließlich auf reaktive Warnmeldungen oder jährliche Schulungen zu verlassen. 

Eine starke Strategie für das Human Risk Management konzentriert sich darauf, Kompromittierungen zu verhindern, indem sie Identitätskontrollen verschärft, die Transparenz über riskantes Verhalten verbessert und Leitplanken in alltägliche Arbeitsabläufe integriert.

• Die Identitätssicherheit durch die Durchsetzung von phishing-resistenter MFA stärken, das Prinzip der geringsten Privilegien anwenden und privilegierte Zugriffswege regelmäßig überprüfen.
• KI-Tools und -Agenten durch die Standardisierung zugelassener Optionen verwalten, Integrationen von Drittanbietern und OAuth-Berechtigungen einschränken und Zugriffsebenen erfassen.
• Die Angriffsfläche für Social Engineering durch das Härten von E-Mail- und Nachrichtenkontrollen reduzieren, gängige Spoofing-Taktiken blockieren und riskantes Weiterleiten sowie riskante Anhänge begrenzen.
• Kontinuierliche, rollenbasierte Maßnahmen durch kurze Schulungsimpulse bereitstellen, Echtzeit-Feedback nach riskanten Handlungen geben und die Verstärkung auf Teamebene durch Security Champions fördern.
• Die Auswirkungen von Datenverlust durch strengere Freigabestandards minimieren, eine schlanke Datenklassifizierung anwenden und DLP-Kontrollen für gängige Wege der Datenexfiltration einsetzen.
• An risikoreichen Momenten durch zusätzliche Authentifizierung, Browserschutz und Bestätigungen für sensible Aktionen oder ungewöhnliches Verhalten intelligente Leitplanken einfügen.
• Die Resilienz und Reaktionsfähigkeit durch die Überwachung verhaltensbasierter Signale verbessern, Geschäftsabläufe mit hohem Betrugsrisiko absichern und Incident-Response-Playbooks für Account-Übernahmen und BEC vorhalten.

Zusammengenommen helfen diese Schritte Unternehmen, menschliche und KI-gesteuerte Risiken proaktiv zu reduzieren, bevor daraus eine gravierende Sicherheitsverletzung wird. 

KI verändert menschliche Risiken

Letztlich wird Human Risk Management unverzichtbar, weil KI sowohl die Geschwindigkeit als auch die Tragweite moderner Angriffe erhöht hat und Unternehmen dadurch kaum noch Spielraum bleibt, sich allein auf reaktive Abwehrmaßnahmen zu verlassen. 

Indem sie menschliches Verhalten und die Aktivitäten von KI-Agenten als messbare Risikosignale behandeln und mit gezielten Kontrollen, Leitplanken in Arbeitsabläufen sowie kontinuierlichen Maßnahmen darauf reagieren, können Sicherheitsverantwortliche die Angriffsfläche reduzieren, ohne Teams mit noch mehr Tools oder unnötigem Rauschen zu überlasten. 

Um den wachsenden Risikoangriffsbereich einzudämmen, setzen viele auf Zero-Trust-Prinzipien, um Zugriffe zu begrenzen, implizites Vertrauen zu reduzieren und die Ausbreitung von Sicherheitsverletzungen zu verhindern.