トランプ大統領は、テクノロジー企業に新たな規制を課すことなく、高度なAIモデルに対する監督を強化することを目的とした新たな大統領令を発表した。
この命令は、強力なAIモデルの開発者が、一般公開前のセキュリティ審査に向けてシステムを連邦政府と共有できる任意参加型の枠組みを定めている。
「米国が人工知能（AI）分野で世界をリードし続けているのは、AI業界に多大な才能とイノベーションがあるからであり、また、過度に負担の大きい規制によってこのイノベーションを阻害することを拒んでいるからだ」と、大統領令は述べている。
AI大統領令の主なポイント
- トランプ大統領は、一般公開前に高度なAIモデルを審査する任意参加型の枠組みを創設する大統領令に署名した。
- 高リスクに分類される対象フロンティアモデルの開発者は、導入前の最長30日間、連邦機関にAIシステムへのアクセスを提供できる。
- この枠組みは、能力が高まり続けるAIモデルに伴うサイバーセキュリティおよび国家安全保障上の懸念に対処することを目的としている。
- この大統領令は、AIのライセンス取得、許可申請、政府承認を義務付ける要件を定めていない。
AI大統領令の内容
この命令は、高度なサイバー能力を備えたフロンティアAIモデルをめぐる懸念が高まる中で出された。
一部のフロンティアAIモデルは、脆弱性を特定し、大規模にエクスプロイトコードを生成できるため、適切に保護されなければサイバー攻撃を加速させる可能性が懸念されている。
この命令は、NSA、CISA、陸軍省、財務省に対し、より厳格な審査が必要となる可能性のある高リスクの対象フロンティアモデルを定義するよう指示している。
この枠組みはまた、AI開発者が政府当局者と協力し、モデルが審査対象となる基準を満たすかどうかを判断する任意参加型のプロセスを設ける。
対象フロンティアモデルに指定された場合、開発者は一般公開前の最長30日間、連邦機関にシステムへのアクセスを提供できる。これにより当局は、サイバーセキュリティへの影響、悪用シナリオ、国家安全保障上のリスクを評価できる。
政府によれば、この取り組みは、米国のAIイノベーションにおける主導的地位を維持しながら、高度なAIモデルがより広範な市場に投入される前にセキュリティ上の懸念を特定し、軽減することを目的としている。
この審査プロセスは、新たな規制要件を課すのではなく、政府と業界の協力を促進するよう設計されている。
以前に検討されていたと報じられた案とは異なり、最終的な大統領令は、AIのリリースに対する政府の監督を義務付けていない。
組織がAIリスクを管理する方法
組織がAI技術を導入する中で、セキュリティチームはイノベーションと効果的なリスク管理のバランスを取らなければならない。
高度なAIシステムは、データ漏えい、プロンプトインジェクション攻撃、モデルの悪用、AIを利用したサイバー脅威など、新たなセキュリティ課題をもたらす可能性がある。
強固なガバナンス、セキュリティ制御、監視プロセスを確立することで、組織はAIの安全な利用を可能にしながら、こうしたリスクを軽減できる。
- AIガバナンスポリシーを策定し、AIツールやサービスを導入する前にリスク評価を実施する。
- 承認済みAIアプリケーションの一覧を作成し、異常な活動や承認されていない活動がないか継続的に監視する。
- 強力なアクセス制御を実装し、最小権限の原則とデータ損失防止対策を導入して、機密情報を保護する。
- AIベンダーを基本的なセキュリティ対策について評価し、導入前にモデルのテスト手順と脆弱性開示プログラムも確認する。
- 定期的なAIセキュリティテストを実施し、レッドチーム演習を行って、プロンプトインジェクション、データ漏えい、モデルの悪用などのリスクを特定する。
- 脆弱性管理と脅威検知の機能を強化・自動化し、AIを利用したサイバー脅威や自動化された攻撃手法に対処する。
- インシデント対応計画をテストし、AIを利用した脅威やモデルの侵害を想定した攻撃シミュレーションツールを活用する。
これらの対策を組み合わせることで、組織は新たなAI脅威へのレジリエンスを構築しながら、運用、セキュリティ、コンプライアンス上のリスクを最小限に抑えられる。
AIイノベーションとセキュリティのバランス
この大統領令は、AIイノベーションとセキュリティ上の考慮事項のバランスを取ろうとする各国政府のより広範な取り組みを反映している。
政策立案者が適切な監督のレベルを引き続き検討する一方で、能力が高まり続けるAIシステムのサイバーセキュリティへの影響をめぐる懸念から、リスク管理と責任ある導入により大きな注目が集まっている。
トランプ政権は現時点で新たな規制要件を導入するのではなく、政府機関とAI開発者の協力を促す任意参加型の枠組みを選択した。
このアプローチの有効性は、業界の参加と、高度なAI技術が進化し続ける中で政府が潜在的なリスクを特定し対処する能力に左右される可能性が高い。
攻撃対象領域が広がる中、ゼロトラストソリューションは組織がリスクへの露出を減らし、アクセス制御を強化し、重要なシステムとデータを保護するのに役立つ。