Anthropicによると、同社の最新の防御策により、競合他社がClaudeの推論能力を抽出することは大幅に難しくなっている。
同AI開発企業は、新たな保護策によって、許可なく抽出を行っているとみられる業者が収集した推論トークンの量が90%から99%減少したと報告した。これらの対策は、先進的なAIシステムの出力を使って競合モデルを訓練するモデル蒸留攻撃を標的としている。
同社によると、不正な業者は日常的に「秘密裏に行われる産業規模のキャンペーン」を展開し、同社のClaudeモデルから高度な問題解決の痕跡を吸い上げ、より安価な模倣モデルの訓練に利用している。標的を絞った保護策を導入した後、Anthropicは、抽出業者が収集した社内推論トークンの数が、以前の量の10分の1から100分の1にまで減少したと述べた。
米国と海外のAIチームの技術競争が激しさを増すなかで、この防御強化が行われた。Anthropicは、OpenAIやGoogleの親会社Alphabetなどの同業他社とともに問題を訴えており、不正な蒸留によって可能になると警告している海外の事業者が巨額の研究費をかけずに済む一方で、不可欠な安全ガードレールを取り除いてしまうと。
Claudeの内部思考を封じ込める
蒸留攻撃では、最終的な回答を単に記録するのではなく、モデルの段階的な思考の痕跡を大量に取得する。Claude Opus 4.8の完全な推論記録で訓練したモデルは、要約された記録で訓練した場合の71.8%に対し、SWE-bench Verifiedコーディングベンチマークで80.4%に達した。Anthropicによると。
この流出を止めるため、同社は3つの防御策を導入した。
- 思考の保持に関する保護策：2026年8月31日以降に作成された新しいAPIアカウントについて、以前のコンテキストウィンドウの変更を制限する。これにより、プロキシネットワークがモデル間や会話間で内部推論の痕跡を受け渡すことを防ぐ。
- 2段階分類器：誤検知率が0.1%未満というスクリーニング構成を採用。Anthropicは、この構成が「Claudeによる生物兵器の開発支援を防ぐ仕組みとおおむね同程度に堅牢」だとしている。
- アカウント停止とペナルティ：違反アカウントを自動的に停止する。疑わしい実行から2時間以内に行われることも多く、ブロックした抽出リクエストについて顧客に料金を請求する。
Anthropicは中国のAI開発企業Zhipu（Z.aiとしても知られる）をClaudeを標的にした企業の一つとして挙げている。同社はGLM-5.3システムの構築を進めていた。また、MoonshotのKimiモデルに送られたリクエストが密かにClaudeへ転送された事例も報告しており、中国軍関係者に関連する監視目的の問い合わせも含まれていた。
AIモデルの蒸留が重要な理由
AI開発者にとって、不正な蒸留は商業面とセキュリティ面の双方で課題となる。
最先端AIモデルの訓練には、コンピューティングインフラ、研究、開発への多額の投資が必要だ。既存モデルから詳細な出力を抽出すれば、別の開発者が同じ投資をせずに、その能力の一部を再現できる可能性がある。
Anthropicはまた、競合システムが、元のモデルに組み込まれた安全策を維持しないまま有用な能力を再現した場合、不正な蒸留によって安全保護策が損なわれる可能性があると主張している。
今回の最新の防御策は、AI開発者の間で広がる、商用APIを通じたアクセスを提供し続けながらモデルを体系的な抽出から守ろうとする取り組みの一環だ。
Claude APIユーザーが知っておくべきこと
Anthropicの新たな保護策は主に、Claudeの推論能力を大規模に抽出しようとする疑いのある試みを標的としている。ただし、高度なAPI機能を利用する開発者は、今回の変更が自社アプリケーションに影響するかを確認すべきだ。
思考の保持機能に依存しているチームや、モデルが生成した推論を複数のリクエストで再利用しているチームは、適用される制限がないか、Anthropicの最新のAPIドキュメントを確認するとよい。
組織は、API認証情報の管理方法、異常なリクエストパターンの監視、アカウントの措置に関する通知への対応についても確認すべきだ。
正規の顧客にとって重要なのは、Anthropicが許可されたアプリケーションを妨げることなく、大規模な抽出を防げるかどうかだ。同社は疑わしい抽出活動が大幅に減少したと報告しているが、その数字だけでは、保護策が通常のAPIユーザーにどのような影響を及ぼすかは分からない。
その他のニュース：デンマークの人口登録簿で発生した大規模な情報漏えいを受け、脆弱なパスワードと第三者アクセスに懸念が高まっている。攻撃者がAI生成コードを使い、数百万件の検索を自動化したとの報告もある。