Anthropicは、通常は従業員に限られるレベルで、社外のAI安全性研究者に社内システムへのアクセスを提供している。
同社は10月15日、最先端AIモデルを評価する非営利団体METRの従業員6人を受け入れ、同社のハードウェアやオフィススペース、Anthropic自身のリスク評価チームが利用できるものと同等の社内ツールへのアクセスを提供すると発表した。
顧客データ、弁護士・依頼人間の秘匿特権情報、モデルアーキテクチャの詳細という限られたカテゴリーを除き、Anthropicの従業員は、アライメントリスクに取り組む同僚と同じようにMETRのスタッフと情報を共有するよう奨励されていると、同社はブログ記事で述べた。
METRは、Anthropicのリスクやインシデント、安全対策に関する調査結果を、同社の事前承認なしに公表できる。
Anthropicは、あらかじめ定めたカテゴリーについて情報の削除を求める権利を保持するが、METRはその削除が正当だったかどうかを公に異議申し立てできる。これにより評価者には、開示内容への制限に異議を唱える一定の余地が与えられる。
「透明性に関する方針に沿って、私たちの報告書では、活動の範囲、アクセス、その他の制約を率直に説明する」と、METRはReutersによると述べた。
段階的な精査の仕組み
Anthropicは社外のAI安全性評価者向けに3段階のアクセスレベルを導入する。各レベルでは、研究者が調査・公表できる内容について異なるルールが設けられる。
第1段階は、公開前の承認を必要とする対象を限定した調査を扱う。第2段階では評価者により広範なアクセスを認め、一定の情報削除を条件に、事前承認なしでの公表を可能にする。
現在、第3段階に位置する唯一の組織がMETRであり、AIリスク評価に取り組むAnthropicの従業員と同等の社内システムへのアクセスが提供される。
バイオセキュリティー分野の非営利団体SecureBioは第1段階に位置し、Anthropicが8月に公表したリスク報告書の化学・生物兵器に関する章を検証している。AnthropicはAccentureのAI部門Facultyとも協力しており、Hugging Faceとも初期段階の協議を進めている。
「私たちは評価者を自主的に組み込んでおり、すべての最先端AI企業が同じことをすべきだと考えている」とAnthropicは述べた。同社はこの仕組みを銀行規制になぞらえた。銀行規制では、最大手銀行の内部に常駐検査官を置く。こうした金融機関のほうが、社外の人間よりも自らのリスク状況をよく理解しているためだ。
今回の発表に先立ち、ReutersはAnthropicとOpenAIが、企業秘密の漏えいを懸念し、社外のレビュアーが公表できる内容を大幅にコントロールしようとしていたと報じていた。企業が知的財産とみなす情報が、モデルのリスク評価にも関係し得ることが、主な争点となっている。
AI企業自身がレビューの実施者を選ぶため、評価者の独立性をめぐって専門家から懸念が示されている。
前例となる理由
Anthropicの動きは、正式な規制要件がなくても、自主的な第三者評価によって先進AIシステムに対する有意義な精査が可能かどうかを試す初期のケースになる可能性がある。
9月下旬に署名されたホワイトハウスの合意は、Anthropic、Google、Meta、OpenAI、SpaceX、Nvidiaに対し、「独立した外部監査人または評価者と提携する」よう促したが、拘束力のある要件は設けなかった。
METRによる組み込み型評価が信頼できる批判的な調査結果を生み出せば、競合他社が追随を迫られるひな型になる可能性がある。逆に、甘い評価に終わったり、情報削除をめぐる論争に行き詰まったりすれば、自主規制では不十分だという主張を助長しかねない。
この段階的な仕組みは規制当局に実践的な青写真を示す。最初から全面的なアクセスを求めるのではなく、信頼と専門知識の深まりに応じて監督を拡大できるからだ。この柔軟性は、AIガバナンスの基準が進化する中で不可欠になる可能性がある。
独立した評価がAIセキュリティーにもたらすもの
もしあなたがAnthropicのClaudeチャットボットを利用しているとしても、この仕組みによって直接的に体験が変わることはない。ただし、将来的にモデルの能力や限界について知る内容には影響する可能性がある。
METRが公表する評価は、Claudeがリスクの高いタスクをどのように処理するのか、あるいはどこで力不足になるのかについて、最も率直な社外の見方を示す可能性がある。透明性を重視するユーザーにとって、Anthropicが阻止できるのは情報の削除だけで、公表自体は阻めない新たな情報源が生まれた。
Claudeを利用したり、機密性の高い業務でAIシステムを評価したりする組織にとって、独立した評価は、開発者がセキュリティリスクをどのように特定し、テストし、対処しているかを知るための追加情報になり得る。
METRへのアクセスにより、研究者は外部テストだけでは不可能なほど詳細に安全対策を調査できる可能性がある。ただし、評価の価値は、研究者が何を調査できるか、どこまで開示できるか、そして調査結果が意味のある変化につながるかに左右される。
セキュリティー部門にとって、こうした報告書はAIプロバイダーを評価する際の新たな証拠源になり得る。ただし、組織独自のセキュリティテストやベンダーのデューデリジェンス、AIシステムによる機密情報へのアクセスを管理する統制に取って代わるものではない。
その他のニュース：Firefox 158がセキュリティ脆弱性に対処し、悪意あるコードに対するブラウザーの保護を損なう可能性があるサンドボックス脱出リスクなどを含む。