次のような警告を受け取ったと想像してほしい。顧客のスプレッドシートがAIチャットボットに入力され、そのチャットへのリンクが社外に共有された。
セキュリティチームには、直ちに2つの疑問が生じる。受信者には何が見えるのか、そしてチームはアクセスを遮断できるのか。答えは、チャットに実際に表示される内容と、誰がリンクを開けるのかによって決まる。
この仮想シナリオは、AIツールを利用する組織が直面するセキュリティ上の懸念を示している。企業データを外部サービスにアップロードしたからといって、誰かに盗まれたことを自動的に意味するわけではない。セキュリティチームは、何が共有されたのか、誰がアクセスできたのかを特定し、露出を封じ込め、対応を決める前に潜在的な影響を評価しなければならない。
まず、露出した情報を特定する
「 OWASP Top 10 for LLM Applications」は、個人データ、認証情報、機密性の高い企業情報に関わるセキュリティリスクとして、機密情報の漏えいを挙げている。
疑わしい情報露出を確定した侵害として扱う前に、調査担当者は入手可能な証拠が何を示しているのかを明らかにする必要がある。
セキュリティで判明したこと | 確認できること | 依然として不明なこと |
|---|---|---|
| 従業員が機密ファイルをAIサービスにアップロードした | 情報が外部プロバイダーに渡った | プロバイダーがデータをどのように扱ったのか、また他者がアクセスできたのか |
| 共有された会話リンクに機密情報が表示される | 情報が本来の対象者以外からもアクセス可能だった | 権限のない人物が情報を閲覧またはコピーしたかどうか |
| 信頼できるログに権限のないアクセスが記録されている | 誰かが権限なく情報にアクセスした | その人物がコピーを保存または配布したかどうか |
セキュリティチームは、従業員が未承認のAIツールに何をアップロードしているのかを把握できない場合がある。そのため、 シャドーAIは、従業員に企業情報を危険にさらす意図がない場合でも、機密データ露出の潜在的な原因となる。
AIによるデータ露出を調査し、封じ込める7つのステップ
ステップ1:アクセスを削除する前に証拠を保全する
AIアプリケーションの名称、関係するアカウント、共有URL、関連するタイムスタンプ、影響を受けたファイルを記録する。リンクに表示される内容を取得し、アクセス制限された場所に証拠を保管する。
NISTのインシデント対応ガイダンスは、検知、対応、復旧を連携して行うことを重視している。セキュリティチームは調査結果を文書化し、インシデントの調査に必要な証拠を保全すべきだ。
機密情報が引き続き一般公開されている場合は、重要な証拠を速やかに収集してリンクを無効にする。長期にわたる調査を行う間も、封じ込めを遅らせてはならない。
ステップ2:情報がAIアプリに到達した経路を追跡する
利用可能なエンドポイント、ブラウザー、プロキシ、クラウドセキュリティ、データ損失防止(DLP)の記録を確認し、誰がいつ情報を送信したのかを特定する。
Microsoftの データセキュリティ調査ガイダンスでは、エンドポイントDLPの証拠と監査記録を使って、影響を受けたファイルやユーザーの活動を調査する方法を説明している。
AIアプリケーションが企業システムに接続している場合は、それらの連携によってどのアカウントやファイルにアクセスできるのかを確認する。調査担当者は、記録にどのような不足があるのかも特定すべきだ。従業員がAIサイトを訪問したことを示すログだけでは、何をアップロードしたのかまでは必ずしも分からない。
ステップ3:誰が会話にアクセスできたのかを確認する
共有リンクの権限を確認し、受信者に見える情報を調べる。
アクセスルールはプロバイダーやアカウントの種類によって異なる。例えば、 OpenAIのドキュメントでは、個人アカウントから共有されたChatGPTの会話リンクを持つ人は、その共有コンテンツを閲覧できると説明している。管理対象のワークスペースには異なる共有制限がある。
リンクによって権限のないユーザーが機密情報を閲覧できる場合、そのデータは露出している。ただし、リンクが存在するだけでは、社外の人物がコンテンツを開いたりダウンロードしたりしたことの証明にはならない。
ステップ4:露出を封じ込め、認証情報を保護する
共有リンクを無効にし、影響を受けたAIアプリケーションへの不要なアクセスを制限する。連携によって継続的なセキュリティリスクが生じる場合は、連携を切断する。
露出した情報にパスワード、APIキー、アクセストークンが含まれている場合は、速やかにそれらの認証情報を無効化またはローテーションする。関連するアカウントに不審な活動がないか確認する。
会話を削除したりリンクを無効にしたりすれば、それ以上のアクセスを防げる可能性はあるが、既存のコピーが消えたことを保証するものではない。
ステップ5:データの取り扱いについてAIプロバイダーに問い合わせる
プロバイダーに対し、送信した情報を保持しているか、また削除要求をどのように処理するのかを確認する。
データ保持、利用可能なアクセス記録、アカウント設定によって送信コンテンツをモデル改善に利用することがプロバイダーに許可されているかについて、詳細を求める。
プロバイダーからの回答と、確認できた削除やアクセス制限を記録する。プロバイダーが、他者による情報へのアクセスや保持の有無を明らかにできない場合は、その不確実性も記録する。
ステップ6:侵害通知が必要かどうかを判断する
露出した情報に個人データ、顧客記録、規制対象情報が含まれる場合は、法務、プライバシー、コンプライアンスの各チームを関与させる。
報告義務は、適用される法律、関係する情報の種類、影響を受ける個人への潜在的な被害によって決まる。例えば、英国の Information Commissioner's Officeは、一定の個人データ侵害について、不当な遅延なく、可能な場合は侵害を認識してから72時間以内に報告するよう組織に求めている。
AIへの不正なアップロードのすべてに規制当局への通知が必要なわけではない。ただし組織は評価内容を文書化し、調査が完了していないことだけを理由に、必要な報告を遅らせるべきではない。
ステップ7:セキュリティ制御を強化し、テストする
従業員が利用できるAIアプリケーションと、送信が許可される情報を見直す。データ分類ルールを適用し、不要な連携を制限し、承認済みの代替手段を提供する。
Microsoftは、 DLP制御によって機密情報がAIアプリケーションに貼り付けられたりアップロードされたりするのを制限することを推奨している。セキュリティチームは、意図したとおりに機能することを確認するため、これらの制限をテストすべきだ。
確立された制御であっても機能しないことがある。以前のインシデントでは、eSecurity Planetが、 Microsoft 365 CopilotのバグによってDLP制限が回避され、既存の保護策があるにもかかわらず、アシスタントが機密メールを要約できたと報じた。Microsoftは、この問題によって、ユーザーがもともと閲覧権限を持っていなかった情報へのアクセスが可能になったわけではないと説明している。
インシデントを終了する前にセキュリティチームが確認すべきこと
調査を終了する前に、セキュリティチームは、どの情報が社外に流出したのか、誰がアクセスできたのか、どの封じ込め措置を完了したのか、そして何が未確認のまま残っているのかを確認すべきだ。
最終報告書には、未解決のプロバイダーへの依頼、影響を受けた認証情報、別のインシデントを防ぐために導入したセキュリティ変更を記録する。
権限のないアクセスを示す証拠がないからといって、誰も情報にアクセスしなかったことにはならない。調査担当者は、データが盗まれた、あるいは完全に回収されたと決めつけるのではなく、確認済みの事実と未解決の疑問を区別すべきだ。
共有された会話を削除すれば、それ以上のアクセスを止められる可能性はあるが、根本的なセキュリティ問題が解決するわけではない。組織は、情報がどのようにAIサービスに到達したのかを理解し、それを保護すべきだった制御を強化する必要もある。
関連記事:機密性の高い業務システムへのAIアクセス制限については、eSecurity Planetの AI Agent Safety Checklistを参照。





