Präsident Trump hat eine neue Executive Order vorgestellt, die darauf abzielt, die Aufsicht über fortschrittliche KI-Modelle zu stärken, ohne Technologieunternehmen neuen Vorschriften zu unterwerfen.
Die Anordnung schafft einen freiwilligen Rahmen, der es Entwicklern leistungsfähiger KI-Modelle ermöglicht, der Bundesregierung ihre Systeme vor der öffentlichen Veröffentlichung für Sicherheitsprüfungen zur Verfügung zu stellen.
„Die Vereinigten Staaten sind bei der Künstlichen Intelligenz (KI) weiterhin weltweit führend – dank des enormen Talents und der Innovationskraft unserer KI-Branche und weil wir uns weigern, diese Innovation durch übermäßig belastende Regulierung zu ersticken“, heißt es in der Executive Order.
Die wichtigsten Punkte der Executive Order zur KI
- Präsident Trump hat eine Executive Order unterzeichnet, mit der ein freiwilliger Rahmen für die Prüfung fortschrittlicher KI-Modelle vor ihrer öffentlichen Veröffentlichung geschaffen wird.
- Entwickler von unter die Regelung fallenden Hochrisiko-Frontier-Modellen können Bundesbehörden bis zu 30 Tage vor dem Einsatz Zugang zu den KI-Systemen gewähren.
- Der Rahmen soll Cybersicherheits- und nationale Sicherheitsbedenken im Zusammenhang mit zunehmend leistungsfähigen KI-Modellen adressieren.
- Die Executive Order führt keine verpflichtenden Anforderungen an KI-Lizenzen, Genehmigungen oder staatliche Zulassungen ein.
Einblick in die Executive Order zur KI
Die Anordnung ergeht vor dem Hintergrund wachsender Bedenken hinsichtlich von Frontier-KI-Modellen mit fortschrittlichen Cyberfähigkeiten.
Einige Frontier-KI-Modelle können Schwachstellen identifizieren und in großem Maßstab Exploit-Code erzeugen. Dies weckt Bedenken, dass sie Cyberangriffe beschleunigen könnten, wenn sie nicht angemessen abgesichert sind.
Die Anordnung weist die NSA, CISA, das US-Kriegsministerium und das Finanzministerium an, unter die Regelung fallende Hochrisiko-Frontier-Modelle zu definieren, die möglicherweise einer genaueren Prüfung bedürfen.
Der Rahmen schafft außerdem ein freiwilliges Verfahren, in dessen Rahmen KI-Entwickler mit Regierungsvertretern zusammenarbeiten können, um festzustellen, ob ein Modell die Schwelle für eine Prüfung erreicht.
Wird ein Modell als Frontier-Modell eingestuft, das unter die Regelung fällt, können Entwickler Bundesbehörden bis zu 30 Tage vor der öffentlichen Veröffentlichung Zugang zum System gewähren. So können die Behörden potenzielle Auswirkungen auf die Cybersicherheit, Missbrauchsszenarien und Risiken für die nationale Sicherheit bewerten.
Nach Angaben der Regierung soll die Initiative dazu beitragen, Sicherheitsbedenken zu erkennen und zu mindern, bevor fortschrittliche KI-Modelle größere Märkte erreichen, und zugleich die Führungsposition der Vereinigten Staaten bei der KI-Innovation zu wahren.
Das Prüfverfahren soll die Zusammenarbeit zwischen Regierung und Wirtschaft fördern, statt neue regulatorische Anforderungen aufzuerlegen.
Anders als bei früheren Vorschlägen, die Berichten zufolge geprüft wurden, führt die endgültige Executive Order keine verpflichtende staatliche Aufsicht über die Veröffentlichung von KI-Modellen ein.
Wie Unternehmen KI-Risiken managen können
Wenn Unternehmen KI-Technologien einführen, müssen Sicherheitsteams Innovation und ein wirksames Risikomanagement miteinander in Einklang bringen.
Fortschrittliche KI-Systeme können neue Sicherheitsherausforderungen mit sich bringen, darunter Datenabfluss, Prompt-Injection-Angriffe, Modellmissbrauch und KI-gestützte Cyberbedrohungen.
Durch eine solide Governance, Sicherheitskontrollen und Überwachungsprozesse können Unternehmen diese Risiken reduzieren und zugleich eine sichere Nutzung von KI ermöglichen.
- Richtlinien zur KI-Governance festlegen und Risikobewertungen durchführen, bevor KI-Tools und -Dienste eingesetzt werden.
- Ein Verzeichnis genehmigter KI-Anwendungen führen und diese kontinuierlich auf anomale oder unbefugte Aktivitäten überwachen.
- Strenge Zugriffskontrollen einführen, das Prinzip der geringsten Privilegien anwenden und Maßnahmen zur Verhinderung von Datenverlust einsetzen, um sensible Informationen zu schützen.
- KI-Anbieter auf grundlegende Sicherheitspraktiken prüfen, bevor sie eingeführt werden, einschließlich Verfahren zum Testen von Modellen und Programmen zur Meldung von Schwachstellen.
- Regelmäßige Sicherheitstests für KI durchführen und Red-Team-Übungen durchführen, um Risiken wie Prompt-Injection, Datenabfluss und Modellmissbrauch zu erkennen.
- Das Schwachstellenmanagement verbessern und automatisieren sowie die Fähigkeiten zur Erkennung von Bedrohungen ausbauen, um KI-gestützte Cyberbedrohungen und automatisierte Angriffstechniken zu bewältigen.
- Pläne zur Reaktion auf Sicherheitsvorfälle testen und Tools zur Angriffssimulation mit Szenarien zu KI-gestützten Bedrohungen und der Kompromittierung von Modellen einsetzen.
Zusammengenommen können diese Schritte Unternehmen dabei helfen, ihre Widerstandsfähigkeit gegenüber neuen KI-Bedrohungen zu stärken und gleichzeitig betriebliche, sicherheitsbezogene und Compliance-Risiken zu minimieren.
KI-Innovation und Sicherheit in Einklang bringen
Die Executive Order spiegelt die umfassenderen Bemühungen von Regierungen wider, KI-Innovation und Sicherheitsaspekte miteinander in Einklang zu bringen.
Während politische Entscheidungsträger weiterhin den angemessenen Umfang der Aufsicht prüfen, haben Bedenken hinsichtlich der Auswirkungen zunehmend leistungsfähiger KI-Systeme auf die Cybersicherheit zu einer stärkeren Fokussierung auf Risikomanagement und verantwortungsvolle Bereitstellung geführt.
Statt derzeit neue regulatorische Anforderungen einzuführen, hat sich die Trump-Regierung für einen freiwilligen Rahmen entschieden, der die Zusammenarbeit zwischen Regierungsbehörden und KI-Entwicklern fördert.
Wie wirksam dieser Ansatz ist, wird wahrscheinlich von der Beteiligung der Branche und der Fähigkeit der Regierung abhängen, potenzielle Risiken zu erkennen und zu bewältigen, während sich fortschrittliche KI-Technologien weiterentwickeln.
Da KI die Angriffsfläche erweitert, können Zero-Trust-Lösungen Unternehmen dabei helfen, ihre Angriffsfläche zu reduzieren, Zugriffskontrollen zu stärken und kritische Systeme und Daten zu schützen.