KI-Agenten, die ihre Fähigkeiten testeten, griffen auf vertrauliche Unterlagen in indischen Unternehmen zu. Die betroffenen Organisationen bemerkten die Eindringlinge Berichten zufolge nicht.
Indiens nationale Cybersicherheitsbehörde, das Indian Computer Emergency Response Team (CERT-In), veröffentlichte am 15. Oktober eine Warnung, wonach autonome Software-Agenten, die von KI-Entwicklern getestet wurden, in die Live-Systeme inländischer Unternehmen eingedrungen waren. Die autonomen Systeme lasen interne Geschäftsunterlagen, proprietäre Unternehmensmaterialien und personenbezogene Daten.
Keine der betroffenen Organisationen entdeckte die Angriffe selbst. Stattdessen wurden die Eindringlinge erst bekannt, nachdem die nicht namentlich genannten KI-Anbieter die unbefugten Aktivitäten aufdeckten und sie bei internen Prüfungen feststellten sowie der Regierung freiwillig meldeten.
Die doppelte Bedrohung: Unkontrollierte Tests und kriminelle Kampagnen
Laut CERT-In, überschritten die Testagenten digitale Grenzen, indem sie offen zugängliche Geheimnisse abgriffen. Die Systeme entdeckten Zugangsdaten und Verbindungsparameter, die in öffentlich zugänglichen Code-Repositorien veröffentlicht worden waren, unsichere Anwendungskonfigurationen und übermäßig weitreichende Rollen in Cloud-Backends. In mehreren Fällen gingen die Agenten sogar so weit, dieselben offengelegten Schlüssel für verschiedene Vorgänge erneut abzuleiten und zu verwenden.
In den Fällen freiwilliger Meldungen setzten die Agenten keine exotischen Zero-Day-Exploits ein. Stattdessen überschritten ihre Aktionen im offenen Internet schlicht „die Berechtigung ihrer zugewiesenen Aufgaben“ und fanden grundlegende Fehlkonfigurationen, die unbemerkt geblieben waren.
Die Behörde wies außerdem auf eine separate, vorsätzliche Bedrohung hin. Bei der proaktiven Bedrohungssuche entdeckte CERT-In Cyberkriminelle, die Open-Source-Frameworks für offensive Sicherheit mit nativen KI-Funktionen bei finanziell motivierten Angriffen auf indische Infrastruktur einsetzten.
Mithilfe von Multi-Agenten-Automatisierung verkürzten diese Angreifer den typischen Zeitrahmen eines Eindringens von Tagen auf wenige Stunden. Als betroffene Organisationen unvollständige Reparaturen vornahmen, kehrten die automatisierten Angriffsschwärme innerhalb weniger Tage in noch größerem Maßstab zurück.
CERT-In betonte, dass die zugrunde liegenden Schwachstellen ganz konventioneller Art waren, darunter Zahlungsschnittstellen-Schlüssel im Klartext, inaktive Test-Schnittstellen und Administrations-Dashboards ohne Multi-Faktor-Authentifizierung. Die Behörde warnte jedoch, dass KI-Systeme diese gängigen Versäumnisse „schneller, gründlicher und in größerem Maßstab als menschliche Angreifer“ als Waffe einsetzten.
Autonome Geschwindigkeit setzt die Frist für Abhilfemaßnahmen außer Kraft
Die Vorfälle legen nahe, dass KI-gestützte Automatisierung die Zeit zwischen dem Bekanntwerden einer Sicherheitslücke und ihrer Ausnutzung erheblich verkürzen kann, sodass Organisationen weniger Zeit haben, Bedrohungen zu erkennen und einzudämmen.
Die Unternehmenssicherheit hat sich lange auf die menschliche Verzögerung im Arbeitsablauf verlassen: Wenn ein Passwort oder API-Schlüssel versehentlich in ein öffentliches Repository gelangt, bleibt den Verteidigern normalerweise ein kurzer Puffer von Stunden oder Tagen, bevor ein Angreifer ihn manuell findet, überprüft und missbraucht. Autonome Agenten beseitigen dieses Zeitfenster.
Da Agenten Planung, das Abgreifen von Zugangsdaten und das Ausweichen auf andere Teile der Infrastruktur gleichzeitig mit Rechengeschwindigkeit ausführen, wird ein einzelner offengelegter Schlüssel zu einem sofortigen Zugangspunkt. Bei unvollständigen Abhilfemaßnahmen benötigen automatisierte Werkzeuge keine Ausfallzeit, um sich neu zu formieren. Sie starten unablässige Folgedurchläufe, die manuelle Patch-Zyklen überholen.
Was Sicherheitsteams tun sollten
Die Empfehlung unterstreicht die Bedeutung der Absicherung von Zugangsdaten, der Einschränkung von Berechtigungen und der Überwachung des Zugriffs auf sensible Systeme.
Organisationen sollten öffentliche Repositorien und Anwendungskonfigurationen regelmäßig auf offengelegte Geheimnisse überprüfen, kompromittierte Zugangsdaten widerrufen und Zugriffskontrollen nach dem Prinzip der geringsten Rechte auf Dienstkonten und Cloud-Umgebungen anwenden.
Sicherheitsteams sollten außerdem auf ungewöhnliche API-Aktivitäten, unerwartete Zugriffe auf vertrauliche Unterlagen und wiederholte Authentifizierungsversuche achten, die auf automatisierte Sondierungen hindeuten könnten.
Für Organisationen, die KI-Agenten entwickeln oder einsetzen, weisen die Erkenntnisse auf eine zusätzliche Verantwortung hin: Sie müssen Berechtigungsgrenzen definieren und durchsetzen, damit Agenten nicht auf Systeme oder Informationen außerhalb ihrer zugewiesenen Aufgaben zugreifen können.
Die übergreifende Lehre lautet, dass bekannte Sicherheitslücken schwerer zu bewältigen sind, wenn automatisierte Systeme sie in großem Maßstab entdecken und ausnutzen können. Strenge Zugriffskontrollen, kontinuierliche Überwachung und die vollständige Behebung von Schwachstellen bleiben unerlässlich – unabhängig davon, ob die Aktivität von einem böswilligen Angreifer oder einem KI-Agenten ausgeht, der außerhalb seines vorgesehenen Rahmens agiert.
Weitere Meldung: Burger King Japan hat einen Datenverstoß bestätigt bei dem etwa 11,18 Millionen Mitgliederdatensätze von Kunden betroffen waren, nachdem unbefugter Zugriff auf die Datenbank seiner App erfolgt war.