Dieser Artikel wurde ursprünglich auf TechRepublic veröffentlicht.
Künstliche Intelligenzagenten – autonome Software, die Aufgaben ausführt oder Entscheidungen im Namen von Menschen trifft – werden in Unternehmen immer häufiger eingesetzt. Sie können die Effizienz deutlich steigern, indem sie Mitarbeitenden wiederkehrende Aufgaben abnehmen, etwa das Anrufen von Vertriebskontakten oder die Dateneingabe.
Da KI-Agenten außerhalb der Kontrolle der Nutzenden agieren können, führen sie ein neues Sicherheitsrisiko ein: Nutzenden ist möglicherweise nicht immer bewusst, was ihre KI-Agenten tun, und diese Agenten können miteinander interagieren und dadurch den Umfang ihrer Fähigkeiten erweitern.
Das ist besonders problematisch bei identitätsbasierten Bedrohungen. Eine neue Studie des Sicherheitsunternehmens BeyondID hat ergeben, dass US-Unternehmen KI-Agenten häufig erlauben, sich anzumelden, auf vertrauliche Daten zuzugreifen und selbstständig Aktionen auszulösen. Trotzdem ermitteln oder erfassen nur 30 % aktiv, welche KI-Agenten Zugriff auf kritische Systeme haben – dadurch entsteht ein blinder Fleck in der Sicherheit.
Größte Sicherheitsbedrohung im Zusammenhang mit KI-Agenten
Die Befragung von IT-Führungskräften in den USA zeigt, dass viele über die Sicherheitsauswirkungen besorgt sind, die der Einsatz von KI-Agenten in Arbeitsabläufen mit sich bringt. Die größte Bedrohung, die 37 % der Befragten umtreibt, ist die Identitätsvortäuschung von Nutzenden durch KI. Das hängt wahrscheinlich mit den zahlreichen aufsehenerregenden Betrugsfällen zusammen, die zu erheblichen finanziellen Verlusten geführt haben.
Wenn sie nicht ordnungsgemäß abgesichert sind, können böswillige Akteure die KI-Agenten eines Unternehmens imitieren oder kapern, um vertrauenswürdiges Verhalten vorzutäuschen. So bringen sie Systeme oder Nutzende dazu, unbefugten Zugriff zu gewähren oder schädliche Aktionen auszuführen. Dennoch ergab die BeyondID-Studie, dass nur 6 % der Führungskräfte die Absicherung nichtmenschlicher Identitäten zu ihren größten Sicherheitsherausforderungen zählen.
„KI-Agenten müssen nicht böswillig sein, um gefährlich zu werden“, heißt es in dem Bericht. „Wenn sie nicht kontrolliert werden, können sie zu Schattennutzern mit weitreichendem Zugriff und ohne Verantwortlichkeit werden.“
Dieser Sektor ist besonders durch diese Sicherheitsbedrohung gefährdet
Der Gesundheitssektor ist besonders gefährdet, da er KI-Agenten für Aufgaben wie Diagnosen und die Terminplanung schnell eingeführt hat, zugleich aber weiterhin sehr anfällig für identitätsbezogene Angriffe ist. Von den befragten IT-Führungskräften aus dem Gesundheitswesen gaben 61 % an, dass ihr Unternehmen einen solchen Angriff erlebt habe, während 42 % erklärten, ein identitätsbezogenes Compliance-Audit nicht bestanden zu haben.
„KI-Agenten verarbeiten inzwischen geschützte Gesundheitsinformationen (Protected Health Information, PHI), greifen auf medizinische Systeme zu und interagieren häufig ohne strenge Überwachung mit Dritten“, schrieben die Forschenden.
Trotz Sicherheitsrisiken werden KI-Agenten leistungsfähiger und beliebter
Ende 2024 prognostizierte TechRepublic, dass die Nutzung von KI-Agenten in diesem Jahr stark zunehmen würde. OpenAI-CEO Sam Altman griff dies in einem Blogbeitrag vom Januar auf und sagte: „Möglicherweise werden die ersten KI-Agenten ‚in die Arbeitswelt eintreten‘ und die Leistung von Unternehmen erheblich verändern.“ Erst in diesem Monat deutete der Amazon-Chef an, dass künftige Stellenstreichungen auf die stärkere Integration fortschrittlicher KI-Agenten zurückzuführen sein könnten.
OpenAI und Anthropic investieren beide massiv in den Ausbau der Fähigkeiten ihrer agentischen Produkte; dabei wird deren stetig zunehmende Leistungsfähigkeit von Altman angepriesen. Bis 2028 werden laut Gartner 33 % der Unternehmenssoftwareanwendungen agentische KI enthalten, gegenüber weniger als 1 % im Jahr 2024.
Allerdings wollen manche Organisationen dieses Sicherheitsrisiko nicht eingehen; die Europäische Kommission hat bei Online-Meetings den Einsatz KI-gestützter virtueller Assistenten verboten.