Bericht zu KI-Kriminalität warnt vor neuen KI-gestützten Bedrohungen 

Künstliche Intelligenz (KI) steigert längst nicht mehr nur die Produktivität von Angreifern. 

Laut einem neuen ThreatDown-Bericht verändert KI das Ökosystem der Cyberkriminalität grundlegend, indem sie die Hürden für hochentwickelte Angriffe senkt und autonome Ausnutzung ermöglicht. 

Die wichtigsten Erkenntnisse aus dem ThreatDown-Bericht zur Cyberkriminalität

• KI senkt die Hürden für hochentwickelte Cyberangriffe, indem sie autonome Aufklärung, Ausnutzung und Angriffsplanung ermöglicht.
• Kriminelle nutzen zunehmend KI-Modelle ohne Schutzvorkehrungen sowie legitime KI-Infrastrukturen, um Cyberoperationen zu skalieren.
• Shadow AI, bösartige KI-Agentenfähigkeiten und KI-gestützte Malware schaffen neue Risiken für die Sicherheit und Identität von Unternehmen.
• Forscher warnen, dass KI die Entdeckung von Zero-Day-Schwachstellen drastisch beschleunigen und damit die Zeit verkürzen könnte, die Verteidigern zum Schließen von Sicherheitslücken bleibt.
• Unternehmen sollten Schwachstellenmanagement, kontinuierliche Überwachung und die Governance von Shadow AI priorisieren, um sich auf KI-gestützte Bedrohungen vorzubereiten.

Wie KI die Hürden für Cyberangriffe senkt

Der Bericht warnt außerdem, dass die unkontrollierte Einführung von KI die Angriffsflächen von Unternehmen vergrößert und neue Möglichkeiten für Angreifer schafft. 

Forscher zufolge haben Unternehmen nur noch ein kleiner werdendes Zeitfenster – etwa sechs Monate –, um sich vorzubereiten, bevor die nächste Generation KI-gestützter Cyberbedrohungen zum Mainstream wird.

Die Ergebnisse zeigen, wie moderne KI-Agenten über das Beantworten von Fragen oder das Generieren von Code hinausgewachsen sind. 

Heutige Modelle können komplexe Aufgaben selbstständig erledigen, über längere Zeit Software bedienen und mit anderen KI-Agenten zusammenarbeiten. 

Diese Fähigkeiten steigern zwar die Produktivität legitimer Nutzer, stellen Cyberkriminellen aber auch leistungsfähige neue Angriffswerkzeuge zur Verfügung.

Als Beispiel nennt der Bericht einen Angreifer, der gängige KI-Modelle nutzte, um mehrere mexikanische Regierungsorganisationen zu kompromittieren. 

Bei der Aufklärung identifizierte die KI eine Schnittstelle für Überwachungs-, Steuerungs- und Datenerfassungssysteme (SCADA) in einem kommunalen Wasserversorgungsunternehmen, stufte sie als kritische Infrastruktur ein und empfahl einen Angriffspfad, obwohl der Angreifer zuvor keinerlei Erfahrung mit Betriebstechnologie hatte. 

Obwohl der Eindringversuch letztlich scheiterte, zeigte der Vorfall, wie KI das für Angriffe auf kritische Infrastruktur erforderliche Fachwissen drastisch reduzieren kann.

Kriminelle KI-Tools werden leichter zugänglich

Die Forscher stellten außerdem fest, dass bösartige KI-Tools zunehmend leichter zugänglich werden. 

Statt eigens entwickelter krimineller Modelle zu verwenden, versehen viele Untergrunddienste einfach legitime hochentwickelte KI-Modelle mit Jailbreaks, die Sicherheitsvorkehrungen entfernen, oder verkaufen den Zugang über legitime Cloud-Infrastrukturen weiter.

Der Bericht stellte außerdem mehr als 6.600 öffentlich veröffentlichte KI-Modelle ohne Schutzvorkehrungen auf Hugging Face fest.

Zusammen kamen diese Modelle innerhalb eines einzigen Zeitraums von 30 Tagen auf etwa 22 Millionen Downloads. 

Da viele lokal ausgeführt werden können, entfällt für Cloud-Anbieter die Möglichkeit, Prompts zu überwachen oder Missbrauch einzuschränken.

Wie KI Malware und Cyberangriffstechniken verändert

Bedrohungsakteure integrieren KI zunehmend direkt in ihre Operationen. 

Der Bericht verweist auf dokumentierte Fälle, in denen KI-Agenten die Aufklärung, das Abgreifen von Zugangsdaten und das Eindringen in Netzwerke über mehrere Branchen hinweg automatisierten. 

Die Forscher beobachteten außerdem Malware, die während der Ausführung dynamisch bösartige Logik erzeugen kann, statt diese in Binärdateien einzubetten, wodurch die Wirksamkeit der herkömmlichen signaturbasierten Erkennung sinkt.

Neuere Malware-Varianten gehen noch weiter: Sie führen KI-Modelle lokal auf kompromittierten Systemen aus, statt sich auf Cloud-APIs zu verlassen. 

Dadurch verlieren KI-Anbieter die Sichtbarkeit, während die defensive Überwachung erschwert wird.

Wie KI-Agenten neue Sicherheitsrisiken durch Insider schaffen

Die rasche Einführung autonomer KI-Agenten schafft ebenfalls neue Risiken für Unternehmen.

Dem Bericht zufolge sind öffentliche Marktplätze für KI-Agentenfähigkeiten schnell zu Zielen für Angreifer geworden. 

Die Forscher dokumentierten bösartige Fähigkeiten, die Zugangsdaten stehlen, sensible Daten exfiltrieren, Malware installieren und sogar das Langzeitgedächtnis eines KI-Agenten verändern können, um dessen dauerhafte Präsenz zu sichern.

Angreifer setzten außerdem verstärkt auf Social-Engineering-Techniken, indem sie Malware als legitime Ressourcen mit KI-Bezug tarnten. 

In einem Beispiel wies ein gefälschter Leitfaden, der Nutzern Gewinne mit KI-gestützten Prognosemärkten versprach, die Opfer an, eine bösartige ausführbare Datei herunterzuladen, die letztlich Malware zum Diebstahl von Zugangsdaten installierte. 

Zum Zeitpunkt der Entdeckung erzielte die Schadsoftware Berichten zufolge bei vielen Endpoint-Sicherheitsprodukten eine Erkennungsrate von nahezu null.

Wie Shadow AI die Cybersicherheitsrisiken für Unternehmen erhöht

Der Bericht warnt, dass die Nutzung nicht genehmigter KI-Tools durch Beschäftigte eine sich rasch vergrößernde Angriffsfläche schafft.

Berichten zufolge greift fast die Hälfte der Beschäftigten, die generative KI nutzen, über nicht verwaltete persönliche Konten auf diese Dienste zu. 

Die Forscher verweisen auf Daten, denen zufolge im Jahr 2025 eines von fünf Unternehmen eine Datenschutzverletzung im Zusammenhang mit Shadow AI erlitt, wobei die Vorfälle durchschnittlich 670.000 US-Dollar mehr kosteten als gewöhnliche Datenschutzverletzungen.

Neben sensiblen Gesprächen und Geschäftsdaten enthalten nicht verwaltete KI-Plattformen oft wertvolle Zugangsdaten, OAuth-Token, API-Schlüssel und Sitzungstoken, die bei identitätsbasierten Angriffen ausgenutzt werden können.

KI könnte die Entdeckung von Zero-Day-Schwachstellen beschleunigen

Die wohl beunruhigendste Prognose des Berichts betrifft Software-Schwachstellen.

Die Forscher verweisen auf das ihrer Beschreibung nach erste bekannte Beispiel für den kriminellen Einsatz von KI zur Entwicklung eines Zero-Day-Exploits und argumentieren, dass künftige KI-Modelle die Entdeckung von Schwachstellen drastisch beschleunigen könnten.

Der Bericht hebt das Forschungsmodell Mythos von Anthropic hervor, das Berichten zufolge Zero-Day-Schwachstellen in wichtigen Betriebssystemen und Browsern identifizierte und dabei seine Fähigkeit demonstrierte, komplexe mehrstufige Angriffsketten zu erstellen. 

Die Forscher gehen davon aus, dass Modelle mit vergleichbaren Fähigkeiten innerhalb von sechs bis zwölf Monaten auf kriminellen Marktplätzen auftauchen könnten, wodurch sowohl die Entwicklung von Exploits als auch der Aufwand für das Patchen aufseiten der Verteidiger zunähmen.

Wie sich Unternehmen auf KI-gestützte Cyberbedrohungen vorbereiten können

ThreatDown empfiehlt Unternehmen, sich auf drei zentrale Prioritäten zu konzentrieren, während KI-gestützte Angriffe weiter ausgereift werden:

• Beschleunigen Sie das Schwachstellenmanagement und die Bereitstellung von Patches, um Zeitfenster für Exploits zu verkürzen.
• Sorgen Sie durch Security Operations oder Managed Detection and Response für kontinuierliche Überwachung, um KI-gestützte Angriffe frühzeitig zu erkennen.
• Ermitteln und steuern Sie Shadow AI, indem Sie nicht genehmigte KI-Tools, Agentenfähigkeiten und KI-Integrationen identifizieren, die in der gesamten Umgebung betrieben werden.

Der Bericht legt nahe, dass Unternehmen KI nicht einfach als einen weiteren Technologietrend betrachten, sondern sich auf eine Cybersicherheitslandschaft vorbereiten sollten, in der Angreifer die Aufklärung automatisieren, die Entwicklung von Exploits beschleunigen und die Einführung von KI selbst als Waffe einsetzen können. 

Viele dieser Fähigkeiten zeichnen sich zwar bereits ab, doch die Forscher gehen davon aus, dass die kommenden Monate darüber entscheiden könnten, ob Verteidiger den KI-gestützten Bedrohungen einen Schritt voraus bleiben oder Mühe haben, Schritt zu halten.

Unabhängig davon, ob die ursprüngliche Kompromittierung durch KI-gestütztes Phishing, den Diebstahl von Zugangsdaten oder einen Zero-Day-Exploit erfolgt: Zero Trust begrenzt den Zugriff von Angreifern und reduziert den Schadensradius.