Bis vor Kurzem war Cybersicherheit fast vollständig reaktiv.
Organisationen, die sich ständig in der Defensive befanden, lernten durch das Sammeln von Telemetriedaten und die Analyse von Eindringungsvorfällen. Daraus entwickelten sie Erkennungsprotokolle.
Das Problem bei diesem Ansatz ist, dass er nur Aufschluss darüber gibt, was Angreifer bereits getan haben.
Viele Organisationen haben eine reaktive Haltung zur Cybersicherheit eingenommen, die nie ideal war. Das Identifizieren und Beheben von Schwachstellen war eine einigermaßen praktikable Strategie, als sich Technologien über mehrere Jahre hinweg entwickelten. Das war bei der Verbreitung des World Wide Web Ende der 90er- und Anfang der 2000er-Jahre ebenso der Fall wie beim Übergang zum Cloud Computing.
Das Aufkommen agentenbasierter KI hat diesen Zeitraum jedoch auf wenige Wochen verkürzt. Lediglich auf Eindringungsereignisse zu reagieren, reicht bei Weitem nicht aus, um die durch agentenbasierte KI ermöglichten Bedrohungen einzudämmen – und damit würde man sich faktisch dem Gegner ergeben.
Wenn die Untersuchung des letzten Cyberangriffs nicht mehr ausreicht, um Netzwerke vor KI-gestützten Angreifern zu schützen, wie sollen Unternehmen diese Bedrohungen bekämpfen? Indem sie jedes mögliche Angriffsszenario antizipieren, modellieren und in Planspielen durchspielen.
Mögliche Zukunftsszenarien mit hypersynthetischen Daten modellieren
Die einzige Möglichkeit, agentenbasierte KI wirksam zu bekämpfen, besteht darin, agentenbasierte KI einzusetzen. Dafür sind zuverlässige Daten erforderlich, mit denen sich agentenbasierte Abwehrmaßnahmen trainieren und validieren lassen.
Das stellt Forschende vor ein Paradoxon. Wie lassen sich Angriffsszenarien modellieren und simulieren, die noch nie beobachtet wurden, wenn die dafür benötigten Daten nicht existieren? Die Antwort lautet hypersynthetische Daten (HSD).
HSD sind Daten, die von LLMs und Machine-Learning-Modellen zu Test- und Simulationszwecken erstellt werden. Sie lassen sich für praktisch beliebige Parameter in großem Maßstab erzeugen und ermöglichen Unternehmen hochpräzise Simulationen wahrscheinlicher Angriffsszenarien, denen ihre Netzwerke ausgesetzt sein könnten.
Dies geschieht in sicher isolierten Testumgebungen, die vollständig von der Produktionsumgebung getrennt sind. Diese Umgebungen bilden die tatsächliche Netzwerkinfrastruktur einer Organisation einschließlich ihrer Betriebssysteme und Sicherheitsanwendungen möglichst genau nach. Gutartiger Netzwerkverkehr sorgt für realistische betriebliche Hintergrundgeräusche, anhand derer sich das Verhalten agentenbasierter Systeme testen und validieren lässt.
Anschließend werden diese simulierten Netzwerke mit echter Schadsoftware angegriffen, darunter identitätszentrierte Angriffe und Persistenztechniken nach dem Prinzip „Living off the Land“, um präzise Trainingsdaten zu erstellen und präventive Erkennungsregeln zu implementieren.
Die Wirksamkeit und Genauigkeit dieser Simulationen hängen entscheidend von realistischen Testbedingungen ab. Agentenbasierte Technologien können erkennen, wenn eine Umgebung zu simpel oder spielerisch gestaltet ist, was zu ungenauen Testdaten führen kann.
Organisationen müssen ihre Netzwerkabwehr testen, um die wahrscheinlichsten Angriffsvektoren und spezifischen Schwachstellen zu identifizieren, die Bedrohungsakteure ausnutzen könnten – ohne unbewährte Agenten in der Produktionsumgebung einzusetzen.
Die Vergangenheit kann uns nur begrenzt etwas beibringen
Der größte Nachteil einer reaktiven Sicherheitspolitik besteht neben dem zusätzlichen Risiko darin, dass die Vergangenheit – ganz gleich, wie gut sie dokumentiert ist – bereits geschehen ist. Wir können und sollten uns bemühen, aus Sicherheitsvorfällen so viel wie möglich zu lernen. Die nächsten Generationen von Bedrohungen können wir jedoch nur wirksam eindämmen, indem wir nach vorn blicken.
Historische Angriffsdaten sind dennoch nützlich. Die detaillierte Dokumentation einzelner Vorfälle, etwa des OpenAI-Hugging-Face-(OAI-HF)-Sicherheitsvorfalls Anfang dieses Jahres, ermöglicht es Forschenden zu ermitteln, wie bestimmte Schwachstellen ausgenutzt wurden und wie sich Eindringlinge durch die Angriffskette bewegen. Künftige Sicherheitsentscheidungen allein auf vergangene Vorfälle zu stützen, ist jedoch ebenso fehlgeleitet, wie sich ausschließlich auf effizienteres Patchen zu konzentrieren.
Die schwerwiegendsten Cyberangriffe , die wir in naher und absehbarer Zukunft wahrscheinlich erleben werden, werden sich sowohl hinsichtlich ihrer Raffinesse als auch ihres Ausmaßes von allem unterscheiden, was wir bisher gesehen haben.
Während sich die Medien jedoch möglicherweise mit sensationellen Schlagzeilen über Zero-Day-Exploits und Modelle, die aus ihrer Abschottung ausbrechen, beschäftigen, besteht eine der größten Bedrohungen durch agentenbasierte Cyberoffensiven darin, Millionen bekannter Angriffsabläufe parallel und gleichzeitig zu orchestrieren und auszuführen.
Mit der zunehmenden Häufigkeit sowie dem wachsenden Umfang und Tempo agentenbasierter Angriffe werden historische Angriffsdaten an Nutzen verlieren. Simulationsdaten hingegen werden unschätzbar wertvoll.
Klein anfangen mit der Automatisierung – aber bald anfangen
Eine wirklich autonome Cyberabwehr ist noch nicht in Sicht, doch das Zeitfenster für Sicherheitsverantwortliche, aktiv zu werden, schließt sich. Bedrohungsakteure hatten schon immer die Oberhand – Angreifer müssen nur einmal erfolgreich sein, während Verteidiger ständig wachsam bleiben müssen –, doch agentenbasierte KI vervielfacht die potenziellen Risikofaktoren weit über menschliche Fähigkeiten hinaus. Das bedeutet, die Resilienz Ihrer Netzwerke, Ihrer Erkennungsregeln und Ihres Teams zu testen.
Beginnen Sie bei der Automatisierung eines beliebigen Aspekts des Abwehrprozesses mit kleinen Schritten. Erste Tests könnten sich auf die Identitätsverwaltung oder Zugriffskontrollen konzentrieren oder auf Protokolle für Reaktion oder Wiederherstellung.
Simulationen sollten in einer sicheren, isolierten Umgebung durchgeführt werden, in der Agenten unter realen Bedingungen getestet und validiert werden können. Besonders wichtig ist, dass solche Tests weit entfernt von Produktionsumgebungen stattfinden, in denen echte Kunden- und Geschäftsdaten versehentlich kompromittiert werden könnten.
Mit der Weiterentwicklung agentenbasierter Technologien wird die Cyberabwehr zunehmend widerstandsfähig gegen KI-gestützte Angriffe werden. Vorerst bleiben Sicherheitsverantwortliche jedoch weitgehend in der Defensive. Es ist jetzt an der Zeit zu handeln, aber Dringlichkeit darf nicht Vorrang vor hochwertigen Daten, verantwortungsvollen Kontrollen und hochwertigen Engineering-Praktiken erhalten.
Bereit, Ihre Abwehr zu testen? Erfahren Sie, wie Simulationen von Sicherheitsverletzungen und Angriffen Ihrem Team dabei helfen können, Sicherheitslücken zu identifizieren, bevor Angreifer sie ausnutzen.