ChatGPT hat unter Cybersicherheitsforschern wegen seiner beunruhigenden Fähigkeit, alles von hochentwickelter Malware bis hin zu Phishing-Ködern zu verfassen, Alarm ausgelöst – doch es ist wichtig, sich vor Augen zu halten, dass das Tool auch zur Unterstützung der Cybersicherheitsabwehr beitragen kann.
Shiran Grinberg, Leiter der Forschung und Cyberoperationen bei Cynet, sagte gegenüber eSecurity Planet dass sich zu viele Unternehmen von ChatGPT abschrecken lassen, anstatt ihre Mitarbeiter dazu zu ermutigen, seine Funktionen zu nutzen. „Schließlich bezweifle ich, dass man heute einen Manager findet, der seine Mitarbeiter nicht dazu ermutigen würde, bei der Informationssuche Google zu verwenden – es sei denn, man ist Bürger Chinas, Russlands, Nordkoreas oder des Irans“, sagte er.
Auch lesen:
- ChatGPT: Eine schöne neue Welt für die Cybersicherheit
- ChatGPTs dunkle Seite: Ein endloser Vorrat an polymorpher Malware
Die nützlichen Sicherheitsanwendungen von ChatGPT
Auch die Sicherheitsvorteile von ChatGPT seien erheblich, sagte Grinberg. „Nehmen wir an, Sie haben ein Analystenteam und ermutigen es, ChatGPT zu nutzen, um zu Schlussfolgerungen zu gelangen und alle möglichen Informationen nachzuschlagen“, sagte er. „Man kann tatsächlich ein Stück Code in ChatGPT eingeben und es auffordern, den schädlichen Teil darin zu identifizieren – es kann also in der Tat sehr hilfreich sein.“
Analysten, Incident-Response-Teams und Ermittler könnten ChatGPT laut Grinberg nutzen, um innerhalb weniger Minuten einen detaillierten, an der SANS-Methodik ausgerichteten Bericht zur Reaktion auf Sicherheitsvorfälle zusammenzustellen. Anschließend könnten sie den Bericht mit Analysen von schädlichem Code, Skripten und verschiedenen Malware-Funktionen ergänzen – „alles mit Hilfe von ChatGPT“, sagte er.
Cynet habe laut Grinberg bereits begonnen, ChatGPT zu nutzen, um seine Abwehr zukunftssicher zu machen. „Wir können ein Machine-Learning-Modell nehmen und es in einen KI-Mechanismus verwandeln, der im Grunde viele Arten legitimer Dateien von vielen schädlichen Dateien unterscheiden lernt“, sagte er. „Durch die Nutzung riesiger Datenmengen können wir ableiten, welche Dateien künftig schädlich und welche legitim sein werden.“
Allerdings warnt ein Sicherheitsforscher – Chris Anley, Chief Scientist bei NCC Group –, dass die Nutzung von ChatGPT zur Analyse von Sicherheitscode zu Ungenauigkeiten führen kann und eine Prüfung durch Experten erfordert.
Wie Anley an einem Beispiel für eine Codeanalyse anmerkte: „Auf den ersten Blick ist diese Ausgabe atemberaubend, sie weist jedoch einige Probleme auf, die menschliches Verständnis und eine sorgfältige Überarbeitung erfordern, damit man der Ausgabe vertrauen kann.“
Schädliche Anwendungen
Andererseits kann das Tool böswilligen Nutzern dabei helfen, Bedrohungen zu erzeugen, die zuvor ihre Fähigkeiten überstiegen hätten. „Die größte Gefahr liegt darin, dass ChatGPT Bedrohungsakteuren das Leben erleichtert und vereinfacht, wenn es darum geht, mit geringen technischen Vorkenntnissen einen Angriff zu erstellen“, sagte Grinberg.
Für Bedrohungsakteure sei es relativ einfach, ChatGPT zur Entwicklung schädlichen Codes zu nutzen, sagte er. Auch wenn ChatGPT eine Warnung ausgibt, wenn man versucht, etwas Illegales zu tun, sagte Grinberg: „Man kann es austricksen, indem man Szenarien durchspielt, und es liefert einem Code, der mit wenigen Anpassungen schädlich sein kann.“
Eine Reddit-Gruppe arbeitet beispielsweise an Jailbreaks, die ChatGPT-Kontrollen umgehen.
Bis zu einem gewissen Grad ist es kein neues Problem, fortgeschrittene Hacking-Techniken weniger technisch versierten Personen zugänglich zu machen – insgesamt sinkt das Durchschnittsalter der Angreifer, da die Zugangshürden immer weiter wegfallen. „Heute gibt es alle möglichen verfügbaren Dienste wie Malware-as-a-Service, Ransomware-as-a-Service, Initial-Access-as-a-Service und jetzt ChatGPT, das es einem versierten Hacker ermöglicht, plötzlich schädlichen Code zu schreiben und Angriffe durchzuführen“, sagte Grinberg.
Sicherheitstools für ChatGPT in Sicht?
Außerdem sei es wichtig zu beachten, so Grinberg, dass zunehmend neue Tools verfügbar sind, mit denen sich feststellen lässt, ob Inhalte von einer KI erzeugt wurden – Beispiele sind der OpenAI AI Text Classifier, der Content at Scale AI Detector und der GPT-2 Output Detector. „Ich gehe davon aus, dass wir weitere Tools und Lösungen zur Erkennung schädlicher Inhalte sehen werden, die von KI-Modellen erstellt wurden“, sagte er.
Die übergeordnete Lehre sei einfach, sagte Grinberg: Ignorieren Sie die Bedrohungen nicht. „Arbeiten Sie daran, Ihre Mitarbeiter zu befähigen, ermutigen Sie sie zur Interaktion mit dieser neuen Technologie und verknüpfen Sie sie mit Schulungen zum Bewusstsein für Cybersicherheit,“ sagte er. „Das wird unterhaltsam, fesselnd und einprägsam sein.“
Siehe die Top-Tools zur Endpoint-Erkennung und -Reaktion (EDR)