Mehr als 35.000 mit Groks KI-App-Builder erstellte Anwendungen konnten ohne Anmeldung geöffnet werden, wie neue Sicherheitsforschung zeigt.
Das Cybersicherheitsunternehmen Claroc berichtete am 10. November, dass einige Projekte vertrauliche Geschäftsinformationen und persönliche Daten enthielten. Die Ergebnisse werfen Fragen zu Organisationen auf, die sich bei der Verarbeitung interner Daten auf KI-generierte Anwendungen verlassen.
Die Untersuchung macht zwei potenzielle Sicherheitslücken deutlich: Anwendungen, die mit öffentlich zugänglichen Links veröffentlicht wurden, sowie unzureichende Zugriffskontrollen, durch die gespeicherte Informationen offengelegt werden können.
Vertrauliche Dateien und Patientenakten tauchten in veröffentlichten Apps auf
Die Untersuchung von Claroc identifizierte 24 zugängliche Anwendungen, die von Mitarbeitern von SpaceXSI, ehemals xAI, und X erstellt worden waren. Außerdem wurden interne Informationen von 30 weiteren identifizierbaren Organisationen entdeckt, darunter sechs Fortune-500-Unternehmen.
Zu den konkreten Ergebnissen gehörten:
- Mitarbeiter von SpaceXSI und X. Die Anwendungen enthielten einen vertraulichen Einarbeitungsplan für Mitarbeiter sowie eine Vertriebsgebietskarte mit 594 Kundenkonten. Auch Werbeangebote waren einsehbar, darunter eines, das für eine US-Bundesbehörde als vertraulich gekennzeichnet war.
- Organisationen im Gesundheitswesen. Die Anwendung einer Krankenhausgruppe enthielt eine durchsuchbare Liste mit mehr als 3.500 Mitarbeitern, während eine andere die medizinischen Informationen eines Intensivpatienten offenlegte.
- Auftragnehmer. Eine Anwendung zur Zeiterfassung legte 18 Mitarbeiterkonten offen, deren Passwörter im Klartext gespeichert waren – darunter auch Zugangsdaten von Administratoren.
Die meisten untersuchten Projekte waren gewöhnliche Spiele oder einfache Hilfsprogramme. Claroc schätzte, dass etwa eine von zehn Anwendungen interne geschäftliche oder persönliche Informationen enthielt, während ungefähr 2 % Daten mit einem hohen oder kritischen Schweregrad aufwiesen.
Die Forscher nutzten eine automatisierte Prüfung und eine manuelle Untersuchung, konnten jedoch nicht feststellen, ob böswillige Akteure die Daten erlangt hatten.
Öffentliche Links und schwache Zugriffskontrollen legten Sicherheitslücken offen
Die Veröffentlichungsfunktion von Grok weist jeder Anwendung eine grok.me-Adresse zu. Die Forscher entdeckten diese Links über passive DNS-Einträge, wodurch sie für jeden zugänglich waren, der die URLs fand. Im kostenpflichtigen Testkonto von Claroc war auf dem Veröffentlichungsbildschirm standardmäßig „Jeder mit dem Link“ ausgewählt, obwohl die Ersteller die Veröffentlichung noch bestätigen mussten.
Separate Tests mit zwei von den Forschern erstellten Apps offenbarten weitere Schwachstellen. Bei einer fehlten Anmeldeschutzmechanismen, sodass Besucher Datensätze hinzufügen konnten, die für andere sichtbar waren.
Eine andere nutzte die Google-Authentifizierung, prüfte jedoch vor der Zugriffsgewährung nicht die Teammitgliedschaft. Dadurch konnte ein nicht eingeladenes Konto Kundendatensätze anzeigen, ändern oder löschen. Die Forscher demonstrierten diese Zugriffskontrollfehler ausschließlich in ihren eigenen Anwendungen und veränderten keine Daten Dritter.
Claroc informierte SpaceXSI am 8. November und veröffentlichte seine Ergebnisse zwei Tage später. Das Unternehmen erklärte, für die Veröffentlichung sei eine ausdrückliche Aktion des Nutzers erforderlich, und Mitarbeiterkonten seien standardmäßig auf privaten Zugriff eingestellt.
Die Forscher hielten dagegen, dass die öffentliche Freigabe in ihrem Testkonto vorausgewählt war. Alle 24 von Mitarbeitern erstellten Anwendungen wurden anschließend entfernt, während die offengelegten Projekte anderer Nutzer bei Veröffentlichung des Berichts weiterhin online waren.
Von Mitarbeitern erstellte KI-Tools können die Sicherheitsaufsicht umgehen
KI-App-Builder ermöglichen es Mitarbeitern, funktionierende Geschäftstools zu veröffentlichen, ohne die üblichen Softwareprüfungen zu durchlaufen. Für CISOs ergibt sich daraus die Sorge, dass Anwendungen mit vertraulichen Informationen möglicherweise nicht sichtbar sind, weil sie nicht im genehmigten Softwareinventar einer Organisation auftauchen.
Im Gegensatz zu gewöhnlichen Chatbot-Interaktionen können Shadow-AI-Anwendungen online bleiben und weiterhin Unternehmensdaten speichern.
Selbst Anwendungen mit Anmeldemasken schützen Informationen möglicherweise nicht, wenn ihre Berechtigungen falsch konfiguriert sind. Sicherheitsteams, die diese Tools prüfen, müssen feststellen, ob nicht eingeladene Konten Datensätze abrufen oder ändern können – nicht nur, ob sich Nutzer anmelden können.
Sicherheitstests von Webanwendungen können dabei helfen, solche Fehler zu erkennen, bevor von Mitarbeitern erstellte Software sensible Informationen verarbeitet.
Organisationen, deren Datensätze in der Untersuchung auftauchten, stehen vor der dringenderen Frage, was öffentlich zugänglich war und ob offengelegte Zugangsdaten weiterhin verwendet werden können. Eine Zugriffsbeschränkung kann eine weitere Offenlegung verhindern, aber nicht klären, ob frühere Besucher Kopien erhalten haben.
Auch ohne Hinweise auf eine böswillige Ausnutzung erfordert die bestätigte Offenlegung eine Untersuchung, die der Sensibilität der betroffenen Informationen angemessen ist.
Weitere Nachrichten zur Cybersicherheit: Anyday Security hat eine kostenlose, KI-gestützte Plattform gestartet, die Berichten zufolge mehr als 200 funktionierende Exploits generiert hat.