Das Sicherheitsunternehmen Calif erklärte, es habe einen Proof-of-Concept-Wurm entwickelt, der WeChat-Konten auf iPhones und Android-Smartphones kapern konnte, ohne dass die Empfänger einen Anruf annehmen oder mit ihren Geräten interagieren mussten. Das angreifende Konto musste in der Freundesliste des Opfers stehen, doch ein kompromittierter Kontakt konnte diese vertrauenswürdige Verbindung anschließend nutzen, um den Wurm weiterzuverbreiten.
Der als WeWorm bezeichnete Angriff nutzte eine Speicherbeschädigungsschwachstelle in WeChats Voice-over-IP- oder VoIP-System aus. Sobald ein Konto kompromittiert war, konnte der Angreifer Nachrichten lesen und versenden, Anrufe tätigen und das Konto nutzen, um Kontakte anzugreifen.
„Die Ausnutzung dauert nur Sekunden und verschafft uns die vollständige Kontrolle über das WeChat-Konto“, schrieb das Unternehmen in seiner Offenlegung. „Wir können Nachrichten lesen und versenden, Anrufe tätigen und im Namen des Opfers handeln.“
Calif demonstrierte den Angriff auf drei Smartphones: Ein Pixel 10a rief ein iPhone 17e an, das kompromittiert wurde, während der Anruf noch klingelte. Das infizierte iPhone rief anschließend ein weiteres Pixel 10a an und kompromittierte es auf dieselbe Weise.
„Der Angreifer ruft das Opfer an, das Opfer wird zum Angreifer und ruft das nächste Opfer an“, erklärte Calif. Die potenzielle Reichweite war enorm. Tencent meldete für Weixin und WeChat zusammen mehr als 1,4 Milliarden monatlich aktive Nutzer, während Calif erklärte, ein Angreifer könnte durch die Ausnutzung des Wurms potenziell mehr als 1 Milliarde Smartphones oder Konten kompromittieren. Diese Zahl war eine theoretische Schätzung und keine bestätigte Zahl verwundbarer Geräte.
KI verkürzte die Entwicklungszeit
Noch beunruhigender war, wie schnell Calif nach eigenen Angaben von der Entdeckung zu einem funktionierenden Exploit gelangte. Das Unternehmen erklärte, seine KI-Systeme hätten die Schwachstelle entdeckt im Juli. Die Ingenieure entwickelten innerhalb von etwa zwei Tagen den ersten Exploit zur Remotecodeausführung und bauten den Wurm in einer weiteren Woche. Calif erklärte, ein Projekt dieser Größenordnung hätte früher ein größeres Team und monatelange Arbeit erfordert. „KI kann hier bereits den größten Teil der Arbeit erledigen“, erklärte das Unternehmen.
Die Forscher nannten die verwendeten KI-Modelle nicht und erklärten, sie hätten eine Kombination aus Open-Source-Systemen und führenden kommerziellen Systemen eingesetzt.
Calif meldete Tencent die Schwachstelle am 24. Juli. Tencent veröffentlichte am 21. August WeChat 8.0.77 für Android und 8.0.76 für iOS. Am 28. August bestätigte Calif, dass der Exploit serverseitig auch für alle Nutzer entschärft worden war.
Tencent erklärte gegenüber The New York Times, dass es keinen Grund zu der Annahme gebe, dass Nutzer betroffen waren. Die Demonstration zeigte dennoch, wie schnell die KI-gestützte Suche nach Schwachstellen zu einem sich selbst verbreitenden Exploit werden kann.
Das größere Sicherheitsproblem
WeWorm zeigt, wie KI die wirtschaftlichen Rahmenbedingungen der Schwachstellenforschung verändern könnte. Die unmittelbare Gefahr besteht nicht einfach darin, dass KI einen Fehler entdecken kann. Vielmehr könnte sich die Zeit zwischen der Entdeckung einer Schwachstelle und ihrer Umwandlung in etwas, das sich verbreiten kann, drastisch verkürzen.
Das ist für Messaging-Plattformen wichtig, weil Vertrauen in ihr Design eingebaut ist. WeChat gewährt gespeicherten Kontakten größere Berechtigungen, doch ein kompromittiertes Konto kann diese vertrauenswürdige Beziehung in ein Verbreitungssystem für den nächsten Angriff verwandeln.
Die Demonstration hatte zudem eine wichtige Einschränkung: WeWorm verschaffte nicht automatisch und von selbst die vollständige Kontrolle über ein Smartphone. Calif erklärte, für eine vollständige Übernahme des Geräts wären zusätzliche Schwachstellen in Android und iOS erforderlich.
Dennoch verdeutlicht der Vorfall ein neues Wettrennen zwischen Angreifern und Verteidigern. Calif argumentiert, eine Verlangsamung der KI-Entwicklung würde am grundlegenden Problem vorbeigehen, da die Schwachstellen bereits existieren.
„Was sich durch KI verändert hat, ist, dass wir sie schnell finden und beheben können“, erklärte das Unternehmen. Durch die serverseitige Entschärfung von Tencent müssen Nutzer gegen diesen speziellen Exploit nichts unternehmen. Für Sicherheitsteams lautet die übergeordnete Lehre, dass KI die Zeit zwischen der Entdeckung einer Schwachstelle und ihrer Bewaffnung verkürzen könnte, wodurch eine schnellere Offenlegung, Entschärfung und Bereitstellung von Patches immer wichtiger wird.
Mehr lesen: OpenAI bremste das Training von Frontier-Modellen, als Astra sich einer kritischen Schwelle der Cybersicherheit näherte, was die Befürchtung unterstreicht, dass fortschrittliche KI die Entdeckung und Ausnutzung von Schwachstellen beschleunigen könnte.