Die Bemühungen um Governance im Bereich der künstlichen Intelligenz (KI) konzentrierten sich bislang weitgehend auf cloudbasierte Tools wie ChatGPT, Microsoft Copilot und andere Software-as-a-Service-(SaaS)-Plattformen.
Laut Josh McCarthy, Chief Product Officer bei Arms Cyber übersehen Unternehmen möglicherweise ein weitaus größeres Risiko: autonome KI-Agenten, die lokal auf den Endgeräten von Mitarbeitern ausgeführt werden.
Da sich KI-Funktionen zunehmend aus Cloud-Umgebungen auf lokale Geräte verlagern, bieten herkömmliche Sicherheitskontrollen möglicherweise nicht mehr die Transparenz und Governance, die Unternehmen benötigen, um Risiken wirksam zu steuern.
Die wichtigsten Erkenntnisse zum Risiko lokaler KI-Agenten
- Lokale KI-Agenten können vollständig auf Endgeräten ausgeführt werden und dabei viele herkömmliche Netzwerk- und Cloud-Sicherheitskontrollen umgehen.
- Unternehmen haben möglicherweise nur begrenzte Transparenz darüber, welche KI-Modelle und -Agenten ausgeführt werden und welche Dateninteraktionen auf den Geräten ihrer Mitarbeiter stattfinden.
- Bestehende Tools wie DLP, CASB und Netzwerküberwachung wurden nicht dafür entwickelt, autonom ausgeführte lokale KI zu steuern.
- Nicht verwaltete lokale KI-Aktivitäten können Herausforderungen in den Bereichen Sicherheit, Compliance, Datenschutz und Auditierbarkeit schaffen.
- Transparenz auf Endgeräteebene wird immer wichtiger, da KI-Agenten und lokal bereitgestellte Modelle in Unternehmensumgebungen zunehmend Verbreitung finden.
Die übersehene Transparenzlücke in Unternehmen
Viele Unternehmen gehen davon aus, dass KI-Governance in erster Linie eine Herausforderung für Netzwerke oder Browser darstellt.
Sicherheitsteams konzentrieren sich häufig darauf, Cloud-KI-Anwendungen zu überwachen und den Zugriff auf KI-Dienste für Verbraucher einzuschränken.
McCarthy zufolge erfasst dieser Ansatz jedoch nur die sichtbarsten Formen der KI-Nutzung.
Die größere Sorge gilt KI-Aktivitäten, die vollständig auf Endgeräten stattfinden.
Lokal gehostete Modelle, die über Plattformen wie Ollama und LM Studio ausgeführt werden, können ohne Netzwerkverkehr, API-Aufrufe oder SaaS-Anmeldeereignisse betrieben werden.
In Verbindung mit autonomen Agenten können diese Systeme Dateien lesen, sensible Daten analysieren und direkt auf einem Gerät Aktionen ausführen, ohne herkömmliche Überwachungstools auszulösen.
Warum herkömmliche Sicherheitskontrollen nicht ausreichen
Unternehmen verlassen sich für Transparenz und Risikomanagement häufig auf DLP, CASB, EDR und Netzwerküberwachung.
McCarthy wies darauf hin, dass diese Kontrollen nicht dafür entwickelt wurden, lokale KI-Aktivitäten zu überwachen.
DLP-, CASB- und Netzwerküberwachungstools konzentrieren sich auf Daten, die über Netzwerke und Cloud-Anwendungen übertragen werden, und bieten daher nur wenig Transparenz über KI-Aktivitäten, die vollständig auf Endgeräten stattfinden.
Auch EDR-Tools konzentrieren sich typischerweise darauf, bösartiges Verhalten zu erkennen, statt legitime, code-signierte KI-Laufzeitumgebungen zu steuern, die lokal betrieben werden.
Daher haben Unternehmen möglicherweise nur wenig Einblick darin, welche KI-Agenten ausgeführt werden, welche Modelle sie verwenden oder auf welche Daten sie zugreifen.
Neue Sicherheits- und Compliance-Risiken
Der Aufstieg lokaler agentischer KI bringt auch neue Governance-Herausforderungen mit sich.
Laut McCarthy beschränkt sich die Sorge nicht mehr darauf, dass Daten das Unternehmen verlassen.
Autonome Agenten können mit geistigem Eigentum, Quellcode, regulierten Datensätzen und anderen sensiblen Informationen interagieren, während sie vollständig innerhalb der Endgeräteumgebung verbleiben.
Dies führt zu potenziellen Bedenken hinsichtlich Compliance, Datenschutz und Auditierbarkeit.
Unternehmen könnten Schwierigkeiten haben festzustellen, welche Aktionen ein KI-Agent ausgeführt hat, auf welche Informationen er zugegriffen hat oder ob diese Aktivitäten internen Richtlinien und gesetzlichen Anforderungen entsprachen.
Warum Transparenz auf Endgeräten wichtig ist
McCarthy zufolge muss eine wirksame KI-Governance am Endgerät beginnen, da dort lokale Modelle, Agenten und sensible Daten zusammenkommen.
Statt sich ausschließlich auf Zielorte oder Netzwerkaktivitäten zu konzentrieren, benötigen Unternehmen Transparenz darüber, welche KI-Prozesse ausgeführt werden, auf welche Dateien sie zugreifen und welche Aktionen sie in Echtzeit durchführen.
Diese Transparenz ermöglicht es Unternehmen, zwischen genehmigter KI-Nutzung und potenziell riskanter oder unbefugter Aktivität zu unterscheiden. Sie ermöglicht es Sicherheitsteams außerdem, Innovationen zu unterstützen und gleichzeitig angemessene Governance-Kontrollen aufrechtzuerhalten.
Die nächste Welle der KI-Risiken
McCarthy erwartet, dass sich die Anforderungen an KI-Governance rasch weiterentwickeln, da lokal bereitgestellte Modelle und autonome Agenten immer häufiger zum Einsatz kommen.
Er verwies auf den kürzlich angekündigten N1X-Prozessor von Nvidia als Beispiel dafür, wie KI-Funktionen direkt in handelsübliche Unternehmenshardware Einzug halten.
Mit der zunehmenden Rechenleistung auf Endgeräten werden mehr Unternehmen über Geräte verfügen, die fortschrittliche KI-Modelle lokal ausführen können.
Mit diesem Wandel müssen Sicherheitsverantwortliche möglicherweise ihre Governance-Strategien überdenken, die sich in erster Linie auf Transparenz in Cloud und Netzwerk stützen.
Unternehmen, die bereits heute Transparenz über KI-Aktivitäten auf Endgeräteebene schaffen, werden wahrscheinlich besser aufgestellt sein, um die mit der nächsten Generation autonomer KI-Systeme verbundenen Risiken zu steuern.