人工知能（AI）のガバナンス対策は、主にChatGPTやMicrosoft Copilot、その他のサービスとしてのソフトウェア（SaaS）プラットフォームなど、クラウドベースのツールに焦点を当ててきた。
最高製品責任者のJosh McCarthy氏が所属するArms Cyberによると、組織はより大きなリスクを見落としている可能性がある。それは、従業員のエンドポイント上でローカルに稼働する自律型AIエージェントだ。
AIの機能がクラウド環境からローカルデバイスへと移行するにつれ、従来のセキュリティ制御では、リスクを効果的に管理するために組織が必要とする可視性とガバナンスを提供できなくなる可能性がある。
ローカルAIエージェントのリスクに関する要点
- ローカルAIエージェントはエンドポイント上だけで完全に動作でき、多くの従来型ネットワークおよびクラウドセキュリティ制御を回避する。
- 組織は、従業員のデバイス上でどのAIモデルやエージェントが稼働し、どのようなデータのやり取りが行われているのかを十分に把握できない可能性がある。
- DLP、CASB、ネットワーク監視などの既存ツールは、ローカルで自律的に動作するAIを管理するようには設計されていない。
- 管理されていないローカルAIの活動は、セキュリティ、コンプライアンス、プライバシー、監査可能性に関する課題を引き起こす可能性がある。
- AIエージェントやローカルに導入されたモデルが企業環境で一般化するにつれ、エンドポイントレベルの可視性が不可欠になっている。
組織が見落としている可視性のギャップ
多くの組織は、AIガバナンスを主にネットワークやブラウザーの課題だと考えている。
セキュリティチームは、クラウドAIアプリケーションの監視や、一般消費者向けAIサービスへのアクセス制限に注力することが多い。
McCarthy氏は、このアプローチではAI利用のうち最も目につきやすい形態にしか対処できないと指摘した。
より大きな懸念は、エンドポイント上だけで発生するAIの活動だ。
Ollamaなどのプラットフォームを通じて実行されるローカルホスト型モデルは、OllamaやLM Studioは、ネットワークトラフィックやAPI呼び出し、SaaSへのログインイベントを発生させずに動作できる。
自律型エージェントと組み合わせると、これらのシステムは従来の監視ツールを作動させることなく、ファイルの読み取り、機密データの分析、デバイス上での直接的な操作を実行できる。
従来のセキュリティ制御では不十分な理由
組織は、可視性の確保とリスク管理のためにDLP、CASB、EDR、ネットワーク監視に依存することが多い。
McCarthy氏は、これらの制御はローカルAIの活動を監視するようには設計されていないと指摘した。
DLP、CASB、ネットワーク監視ツールは、ネットワークやクラウドアプリケーションを通過するデータに焦点を当てているため、エンドポイント上だけで発生するAIの活動についてはほとんど可視性が得られない。
EDRツールも通常は、ローカルで稼働する正規のコード署名済みAIランタイムを管理するのではなく、悪意のある挙動の特定に重点を置いている。
その結果、組織はどのAIエージェントが稼働し、どのモデルを使用し、どのデータにアクセスしているのかをほとんど把握できない可能性がある。
新たなセキュリティとコンプライアンスのリスク
ローカルで動作するエージェント型AIの台頭は、新たなガバナンス上の課題ももたらしている。
McCarthy氏によると、懸念はもはや組織外へデータが流出することだけに限られない。
自律型エージェントは、エンドポイント環境内に完全にとどまりながら、知的財産、ソースコード、規制対象の記録、その他の機密情報にアクセスして操作できる。
これにより、コンプライアンス、プライバシー、監査可能性に関する潜在的な懸念が生じる。
組織は、AIエージェントがどのような操作を実行し、どの情報にアクセスしたのか、またそれらの活動が社内ポリシーや規制要件に準拠していたかどうかを判断するのに苦労する可能性がある。
エンドポイントの可視性が重要な理由
McCarthy氏は、ローカルモデル、エージェント、機密データが集約する場所がエンドポイントであるため、効果的なAIガバナンスはエンドポイントから始めなければならないと述べた。
組織は、宛先やネットワーク活動だけに注目するのではなく、どのAIプロセスが稼働し、どのファイルにアクセスし、リアルタイムでどのような操作を実行しているのかを把握する必要がある。
この可視性により、組織は承認済みのAI利用と、潜在的にリスクのある、あるいは無許可の活動を区別できる。また、セキュリティチームは適切なガバナンス制御を維持しながら、イノベーションを支援できる。
AIリスクの次なる波
McCarthy氏は、ローカルに導入されたモデルや自律型エージェントが一般化するにつれ、AIガバナンス要件は急速に変化すると予想している。
同氏は、AI機能が主流のビジネス向けハードウェアに直接組み込まれつつある例として、Nvidiaが最近発表したN1Xプロセッサを挙げた。
エンドポイントで利用できる処理能力が高まるにつれ、先進的なAIモデルをローカルで実行できるデバイスを導入する組織が増えるだろう。
この変化が続く中、セキュリティ責任者は、主にクラウドとネットワークの可視性に依存するガバナンス戦略を見直す必要に迫られる可能性がある。
現在、AIの活動をエンドポイントレベルで可視化している組織は、次世代の自律型AIシステムに伴うリスクを管理するうえで、より有利な立場に立てる可能性が高い。