オーストラリアは、実験的なOpenAIモデルがアクセス権限のない政府リソースにアクセスしたことを受け、高性能AIシステムへの監督を強化しようとしている。
アンソニー・アルバニージー首相は11月10日、政府がこのインシデントの調査から導かれた18項目の提言を受け入れたと発表した。提言には、より厳格なセキュリティー要件や、重大なAIインシデントの報告義務化に関する案が含まれている。
この動きは、6月に起きたインシデントへのOpenAIの対応、特に活動を特定してから影響を受けたオーストラリアの政府機関に通知するまでの遅れに対する批判を受けたものだ。
オーストラリアが提案する改革案は、より大きな疑問を投げかける。AIシステムが意図された権限を超えて行動した場合、誰が責任を負うのかという疑問だ。
背景を少し整理すると
年が終わる前ではあるが、今年のAI関連の見出しのかなりの部分はAIモデルの暴走やOpenAIのモデルが、その新たな自由を少し真剣に受け止めすぎたようだ。
6月に起きた複数のインシデントの一つはオーストラリアにも及び、実験的なOpenAIモデルがアクセス権限のないリソースにアクセスした。
しかし、権限のないアクセスだけが問題だったわけではない。The Guardianによると、OpenAIは8月にこの活動を特定したが、影響を受けたオーストラリア政府機関への通知を始めたのは9月半ばになってからだった。
この遅れに対し政府は批判を強めた。特に、同社が自社モデルと政府のインフラに関わるインシデントの開示に何週間もかかった理由が問題視された。
OpenAIは後に対応をもっと適切に行うべきだったと認め、今後は改善するための方法を示した。
オーストラリア、AIのセキュリティーと報告要件を強化へ
オーストラリアの対応は、OpenAIへの批判にとどまらない。政府はこのインシデントの調査から得られた18項目の提言を受け入れ、最先端AIの開発者に対する監督強化を進めている。
提案されている措置には、開発者に対し、セキュリティー管理策の維持、重大なリスクの特定と管理、重大なインシデントの報告、モデルの独立評価への協力を求めることが含まれる。
政府はまた、より強力な説明責任の仕組みも検討している。その一つが、特定の被害を防ぐために合理的な措置を講じなかった開発者を対象とする、「防止義務違反」の導入案だ。
これらの提案は、まだ法的に強制可能な義務と同等ではない。最終的な適用範囲、実施時期、罰則は、政府が今後取る規制・立法上の措置に左右される。
- モデルの開発・展開全体でセキュリティー管理策を維持する。
- モデルに伴う重大なリスクを特定し、管理する。
- インシデントを速やかに報告する。
- 独立した評価を受け入れる。
- 安全性とセキュリティーの枠組みを公開する。ガバナンス、リスク管理、透明性を対象とする。
- 更新された基準に対応する。AI技術の変化に合わせて対応する。
インシデント報告の義務化は、OpenAIのケースと特に関係が深い。調査では、予期しないエージェントの挙動を含むAI安全インシデントについて、期限を定めた報告を推奨している。これは、OpenAIが活動を特定してからオーストラリア当局に通知するまで何週間も待ったとの批判に対応するものだ。
この提案では「防止義務違反」という罪も検討されている。この罪が導入されれば、モデルが被害を引き起こし、開発者がそれを防ぐための合理的な措置を講じなかった場合、開発者を刑事責任に問える可能性がある。これらはさらなる検討に向けた提言であり、現行の犯罪ではない。
The Guardianは、6月のインシデントをめぐってOpenAIが刑事罰を受けることはないと報じている。
それでもアルバニージー氏は、6月のインシデントは容認できないとし、「二度と起こることを許してはならない」と述べた。一方、トニー・バーク内相は即時開示の必要性を強調し、オーストラリアは「こうした事態が起きたときに、報告が行われ、しかも直ちに行われるようにしなければならない」と述べた。
AIを導入する企業にも適用される可能性
AIの行動に対する責任はこれまでグレーゾーンとされてきたが、オーストラリアの今回の動きは、こうしたシステムを開発・導入する企業に対する期待をより明確にする一助となる可能性がある。
これは、オーストラリアが世界的な政策の先例を作ろうとする初めての試みではない。同国は子どもを対象としたソーシャルメディア禁止を初めて導入し、その動きは後に世界各地の同様の規制や提案に影響を与えた。
同国が提案するAI規制も同じ道をたどる可能性がある。特に、AIシステムが意図された目的を超えて行動した場合に誰が責任を負うべきか、各国政府が対応に苦慮しているからだ。
BreachLockの創業者兼CEOであるSeemant Sehgal氏は、他国政府も最終的にオーストラリアに追随する可能性があるとし、次のように述べた。「オーストラリアが18項目すべての提言を受け入れ、インシデント報告の義務化に向けて動くのは正しい判断だ。他のすべての政府も、いずれはここに行き着く」
さらに重要なのは、オーストラリアの新たな政策が、AIモデルを開発する企業だけでなく、それを実際に利用する企業にも及ぶ可能性があることだ。
これにより、責任がもう一層加わる。エージェントがアクセスすべきでない情報にアクセスしたり、権限のない行動を実行したりした場合、特にその行動が他社にまで波及したり顧客に影響を及ぼしたりした場合、問題は開発者が十分な安全策を構築したかどうかだけでは済まない。
したがって企業は、信頼できるAIプロバイダーを選んだことだけでなく、自社の環境内でその技術が何を実行できるかを制御するために合理的な措置も講じたことを示さなければならなくなる可能性がある。
AI開発者と企業が学ぶべきこと
すべてのAI開発者や企業が、専任のAIセキュリティーやコンプライアンスのチームを維持できるとは限らない。特に小規模なチームではそうだが、それでも基本的な安全策を導入することはできる。
AIエージェントを開発する場合でも導入する場合でも、まずは次の対策から始めたい。
- アクセスを制限する：エージェントには必要な権限とデータだけを与える。
- 人間の承認を必須にする：自社にとって機密性の高い行動とは何かを定義し、それらを人間による確認の対象とする。
- 活動を監視する：エージェントがアクセスした情報と実行した行動を記録する。
- 導入前にテストする：予期しない指示やアクセス要求を受けたときに、エージェントがどう振る舞うかを確認する。
- インシデントに備える：対応担当者を決める。アクセスを無効化する方法や、影響を受けた当事者に通知するタイミングも定めておく。
オーストラリアが提案する改革は、AI開発者に対し、自社システムを安全に展開でき、重大なインシデントを速やかに報告できることの実証を求める圧力が高まっていることを示している。
法案の最終的な要件は依然として不透明だが、セキュリティー上の教訓はすでに明らかだ。組織は、AIエージェントが何にアクセスでき、どのような行動を取れるのか、そして問題が起きたときにその行動をどれだけ迅速に止められるのかを理解する必要がある。
別のニュースでは、 フィリピン内国歳入局がハッカーによる約1,000万件の納税者記録窃取疑惑を調査している一方、同局はその後、一部の納税者プロフィール情報が流出した可能性を認めつつ、申告・納付記録は無傷のままだと説明している。