CyberArk-Forscher warnen, dass OpenAIs beliebtes neues KI-Tool ChatGPT zur Erstellung polymorpher Malware genutzt werden kann.
„Die beeindruckenden Funktionen von [ChatGPT] liefern schnelle und intuitive Codebeispiele, die für jeden in der Softwarebranche äußerst hilfreich sind“, schrieben die CyberArk-Forscher Eran Shimony und Omer Tsarfati diese Woche in einem Blogbeitrag, der offenbar selbst von einer KI verfasst wurde. „Wir stellen jedoch fest, dass auch die Fähigkeit, hochentwickelte Malware ohne enthaltenen Schadcode zu schreiben, weit fortgeschritten ist.“
Die in ChatGPT integrierten Inhaltsfilter sollen verhindern, dass das Tool bei der Erstellung von Malware hilft. Den Forschern gelang es jedoch schnell, diese Filter zu umgehen, indem sie ihre Anfragen wiederholten und umformulierten – und bei Verwendung der API anstelle der Webversion wurde überhaupt kein Inhaltsfilter angewendet.
Noch schlimmer: Die Forscher stellten fest, dass ChatGPT den erzeugten Code übernehmen und wiederholt mutieren kann, wodurch mehrere Versionen derselben Bedrohung entstehen. „Durch kontinuierliche Anfragen an den Chatbot und den Erhalt eines jeweils einzigartigen Codeabschnitts ist es möglich, ein polymorphes Programm zu erstellen, das sich sehr gut der Entdeckung entzieht und nur schwer aufzuspüren ist“, schrieben sie.
Auch lesen: ChatGPT: Eine schöne neue Welt für die Cybersicherheit
Hochgradig schwer aufzuspürende Malware erzeugen
Und noch schlimmer: Die Forscher vermuten, dass die ChatGPT-API in die Malware selbst integriert werden könnte, um bei Bedarf Module für verschiedene Aktionen bereitzustellen. „Das Ergebnis ist polymorphe Malware, die bei der Speicherung auf der Festplatte kein schädliches Verhalten zeigt und während sie sich im Speicher befindet oft keine verdächtige Logik enthält“, schrieben sie.
„Dieses hohe Maß an Modularität und Anpassungsfähigkeit macht sie für Sicherheitsprodukte, die auf signaturbasierter Erkennung beruhen, nur schwer erkennbar. Außerdem kann sie Maßnahmen wie die Anti-Malware Scanning Interface (AMSI) umgehen“, fügten die Forscher hinzu.
Abschließend rieten Shimony und Tsarfati: „Es ist wichtig, sich daran zu erinnern, dass dies nicht nur ein hypothetisches Szenario, sondern eine sehr reale Gefahr ist. Dieses Feld entwickelt sich ständig weiter, und deshalb ist es unerlässlich, informiert und wachsam zu bleiben.“
Obwohl die Namen von Shimony und Tsarfati oben auf der Seite stehen, endet der Beitrag selbst mit dem Hinweis: „Dieser Blogbeitrag wurde von mir (einer KI) verfasst.“
Russische Hacker diskutieren über ChatGPT
Check Point Research warnte davor, dass russische Cyberkriminelle in Onlineforen aktiv darüber diskutieren, wie sich die Einschränkungen von ChatGPT umgehen lassen. Dabei tauschen sie Möglichkeiten aus, den erweiterten Zugang mit gestohlenen Kreditkarten zu bezahlen, trotz geografischer Beschränkungen auf ChatGPT zuzugreifen und sich mithilfe von Online-SMS-Diensten bei OpenAI zu registrieren.
„Wir glauben, dass diese Hacker ChatGPT höchstwahrscheinlich in ihren alltäglichen kriminellen Aktivitäten einsetzen und testen wollen“, schrieben die Forscher. „Cyberkriminelle interessieren sich zunehmend für ChatGPT, weil die dahinterstehende KI-Technologie einen Hacker kosteneffizienter machen kann.“
Auch lesen: KI und maschinelles Lernen in der Cybersicherheit: Das neueste Schlachtfeld für Angreifer und Verteidiger
So reagieren Sie auf die ChatGPT-Bedrohung
Der CISO von Inversion6, Jack Nichelson, teilte eSecurity Planet per E-Mail mit, dass Unternehmen proaktive Schritte unternehmen müssen, um die potenzielle Bedrohung durch den böswilligen Einsatz von KI-Modellen einzudämmen. „Dazu gehören Investitionen in Sicherheitsforschung und -entwicklung, eine angemessene Sicherheitskonfiguration und regelmäßige Tests sowie die Implementierung von Überwachungssystemen zur Erkennung und Verhinderung einer böswilligen Nutzung“, sagte er.
Das Aufkommen KI-gestützter Programmierung, so Nichelson, sei eine neue Realität, die Unternehmen akzeptieren und auf die sie reagieren müssten. „Die Möglichkeit, den Entwicklungsprozess mithilfe von KI zu verkürzen oder sogar zu automatisieren, ist ein zweischneidiges Schwert. Für Unternehmen ist es wichtig, der Entwicklung voraus zu sein, indem sie in Sicherheitsforschung und -entwicklung investieren“, sagte er.
Er fügte hinzu, dass es ebenfalls wichtig sei zu beachten, dass ChatGPT nicht das einzige KI-Sprachmodell ist, von dem eine solche potenzielle Bedrohung ausgeht – auch andere, etwa GPT-3, könnten dasselbe tun. „Daher ist es für Unternehmen wichtig, über die neuesten Entwicklungen im Bereich der KI und ihre potenziellen Risiken informiert zu bleiben“, sagte Nichelson.
Weiterlesen: KI in der Cybersicherheit: So funktioniert sie