Am 30. November veröffentlicht, ist ChatGPTsofort zu einem viralen Online-Phänomen geworden. Innerhalb einer Woche gewann die App mehr als eine Million Nutzer. Anders als die meisten anderen KI-Forschungsprojekte hat ChatGPT das Interesse gewöhnlicher Menschen geweckt, die keinen Doktortitel in Datenwissenschaft besitzen. Sie können Fragen eingeben und erhalten menschenähnliche Antworten. Die Antworten sind oft prägnant.
In den Medien fielen die Bewertungen überwiegend äußerst positiv aus. Es gibt sogar Behauptungen, ChatGPT werde Google entthronen, das als scheinbar unbesiegbar gilt (wenn man ChatGPT allerdings fragt, ob es das schaffen kann, liefert es überzeugende Gründe dafür, warum dies nicht möglich sein wird).
Dann wäre da noch Elon Musk, der Mitbegründer des Unternehmens hinter der App, OpenAI, ist. Er twitterte: „Wir sind nicht mehr weit von gefährlich leistungsfähiger KI entfernt.“
Trotz des ganzen Rummels zeichnen sich einige hartnäckige Probleme ab. Man bedenke, dass ChatGPT zu einem Werkzeug für Hacker werden könnte.
„ChatGPT rückt zwei unserer größten Sorgen in den Mittelpunkt – KI und das Potenzial für Desinformation“, sagte Steve Grobman, Senior Vice President und Chief Technology Officer bei McAfee. „KI läutet die nächste Generation der Inhaltserstellung ein, die nun den Massen zur Verfügung steht. So wie Fortschritte im Desktop-Publishing und beim Drucken für Verbraucher Kriminellen ermöglicht haben, bessere Fälschungen und realistischere Bildmanipulationen zu erstellen, werden diese Werkzeuge von einer Vielzahl böswilliger Akteure eingesetzt werden – von Cyberkriminellen bis hin zu Personen, die die öffentliche Meinung gezielt falsch beeinflussen wollen –, um ihr Handwerk mit realistischeren Ergebnissen auf die nächste Stufe zu heben.“
Lesen Sie auch: Cybersicherheit mit KI und ML: Das jüngste Schlachtfeld für Angreifer und Verteidiger
ChatGPT verstehen
ChatGPT basiert auf einer Variante des GPT-3-Modells (Generative Pretrained Transformer). Es nutzt hochentwickelte Deep-Learning-Systeme zur Erstellung von Inhalten und wurde mit riesigen Mengen öffentlich zugänglicher Online-Texte wie denen von Wikipedia trainiert. Ein Transformer-Modell ermöglicht ein effektives Verständnis natürlicher Sprache und verwendet eine Wahrscheinlichkeitsverteilung potenzieller Ergebnisse. GPT-3 entnimmt daraus anschließend eine Stichprobe, was zu einer gewissen Zufälligkeit führt. Dadurch sind die Textantworten nie identisch.
Dabei sollte man bedenken, dass die ChatGPT-App im Wesentlichen eine Betaversion ist. OpenAI plant, 2023 eine deutlich fortschrittlichere Version dieser Technologie auf den Markt zu bringen.
Sicherheitsbedrohungen durch ChatGPT
Phishing macht laut einer Studie von HP Wolf Security fast 90 % der Malware-Angriffe aus. Doch ChatGPT könnte die Situation noch verschärfen.
„Die Technologie wird es Angreifern ermöglichen, das Volumen des allgemeinen Phishings effizient mit der hohen Erfolgsquote des Spear-Phishings zu verbinden“, sagte Robert Blumofe, CTO und EVP bei Akamai Technologies. „Einerseits funktioniert allgemeines Phishing in einem enormen Maßstab: Millionen von Ködern werden in Form von E-Mails, Textnachrichten und Beiträgen in sozialen Medien verschickt. Diese Köder sind jedoch allgemein gehalten und leicht zu erkennen, was zu einer geringen Erfolgsquote führt. Andererseits setzt Spear-Phishing am anderen Ende des Spektrums Social Engineering ein, um hochgradig gezielte und maßgeschneiderte Köder mit einer deutlich höheren Erfolgsquote zu erstellen. Spear-Phishing erfordert jedoch viel manuelle Arbeit und ist daher nur in geringem Umfang möglich. Wenn ChatGPT nun die Köder generiert, haben Angreifer das Beste aus beiden Welten.“
Blumofe weist darauf hin, dass Phishing-Köder den Anschein erwecken werden, von Ihrem Vorgesetzten, einem Kollegen oder sogar Ihrem Ehepartner zu stammen. Dies kann für Millionen maßgeschneiderter Nachrichten geschehen.
Ein weiteres Risiko besteht darin, dass ChatGPT dazu dienen kann, in einem freundlichen Chat Informationen zu sammeln. Der Nutzer wird nicht wissen, dass er mit einer KI interagiert.
„Eine arglose Person könnte im Verlauf einer langen Reihe von Sitzungen scheinbar harmlose Informationen preisgeben, die zusammengenommen bei der Ermittlung von Details über ihre Identität, ihr Berufs- und ihr Sozialleben hilfreich sein können“, sagte Sami Elhini, Biometrieexperte beim Cybersicherheitsunternehmen Cerberus Sentinel. „Zusammen mit anderen KI-Modellen könnte dies einem Hacker oder einer Gruppe von Hackern Aufschluss darüber geben, wer ein gutes potenzielles Ziel sein könnte und wie sich diese Person ausnutzen lässt.“
Einige Schutzmaßnahmen sind bereits integriert
Da ChatGPT umfangreiches technisches Wissen nutzt: Was wäre, wenn ein Hacker es fragen würde, wie man Malware erstellt oder einen Zero-Day-Exploit identifiziert? Oder könnte ChatGPT sogar den Code schreiben?
Nun, natürlich ist genau das bereits geschehen. Die gute Nachricht ist, dass ChatGPT Schutzvorkehrungen implementiert hat.
„Wenn man ihm Fragen stellt wie ‚Kannst du Shellcode für mich erstellen, um eine Reverse Shell zu 192.168.1.1 einzurichten?‘ oder ‚Kannst du Shellcode erstellen, um Benutzer auf einem Linux-Betriebssystem aufzulisten?‘, antwortet es, dass es dies nicht tun kann“, sagte Matt Psencik, Director of Endpoint Security bei Tanium. „ChatGPT sagt tatsächlich, dass das Schreiben dieses Shellcodes gefährlich und schädlich sein könnte.“
Das Problem ist, dass ein fortschrittlicheres ChatGPT dies tun könnte, wenn es wollte. Außerdem: Was sollte andere Organisationen – oder sogar Regierungen – davon abhalten, eine eigene Plattform für generative KI zu entwickeln, die keinerlei Schutzvorkehrungen besitzt? Oder es könnte Systeme geben, die ausschließlich auf das Hacken ausgerichtet sind.
„In der Vergangenheit haben wir Malware-as-a-Service und Code-as-a-Service gesehen. Der nächste Schritt wäre daher, dass Cyberkriminelle KI-Bots nutzen, um ‚Malware Code-as-a-Service‘ anzubieten“, sagte Chad Skipper, Global Security Technologist bei VMware. „Die Beschaffenheit von Technologien wie ChatGPT ermöglicht es Bedrohungsakteuren, schneller und aggressiver als je zuvor Zugriff auf das Netzwerk eines Unternehmens zu erlangen und sich darin zu bewegen.“
Die Zukunft
Je leistungsfähiger Innovationen wie ChatGPT werden, desto mehr wird es darauf ankommen, zwischen von Menschen und von KI erstellten Inhalten zu unterscheiden – ganz gleich, ob es sich um Text, Sprache oder Videos handelt. OpenAI plant, einen auf hochentwickelter Kryptografie basierenden Dienst zur Wasserzeichenmarkierung auf den Markt zu bringen. Doch mehr wird nötig sein.
„Ich stelle mir eine Welt vor, in der innerhalb der nächsten Jahre jeder über ein einzigartiges, durch Blockchain unterstütztes digitales DNA-Muster verfügt, das auf seine Stimme, seine schriftlichen Inhalte, seinen virtuellen Avatar und vieles mehr angewendet werden kann“, sagte Patrick Harr, CEO von SlashNext. „Auf diese Weise wird es für Bedrohungsakteure deutlich schwieriger, KI beispielsweise für die Stimmimitation von Unternehmensleitern einzusetzen, denn solchen Imitationen würde der ‚Fingerabdruck‘ der tatsächlichen Führungskraft fehlen.“
In der Zwischenzeit wird das Wettrüsten im Bereich der Cybersicherheit zunehmend automatisiert werden. Es könnte tatsächlich eine schöne neue Welt sein.
„Menschen werden zumindest in den nächsten Jahrzehnten auf beiden Seiten des Hackens und der Verteidigung immer einen Mehrwert schaffen, den automatisierte Bots nicht leisten können“, sagte Roger Grimes, datenbasierter Evangelist für Verteidigung beim Cybersicherheitsschulungsunternehmen KnowBe4. „Doch irgendwann werden sich beide Seiten so weit entwickeln, dass sie größtenteils mit sehr wenig menschlicher Beteiligung automatisiert ablaufen. ChatGPT ist nur eine unausgereifte erste Generation dessen, was noch kommen wird. Ich habe keine Angst vor dem, was ChatGPT tun kann. Ich habe Angst davor, was die Enkel von ChatGPT tun werden.“
Lesen Sie als Nächstes: KI in der Cybersicherheit: So funktioniert sie