仕事の文書をAIアシスタントに貼り付けると、作業とは無関係な顧客データや認証情報、企業秘密まで露出するおそれがある。
レポートの要約やメールの書き直し、スプレッドシートの分析をAIツールに依頼する前に、何を送ろうとしているのかを確認しよう。英国のNational Cyber Security Centreは、 機密情報を公開AIのプロンプトに入力しないよう勧告している。
実務上の目標は、不要な機密情報を共有せずに、アシスタントが作業を支援できるだけのコンテキストを与えることだ。そのためには、目に見えるテキストだけでなく、ファイルをアップロードする場合はすぐには見えない可能性のあるコンテンツも確認する必要がある。
文書を共有できるか、まず確認する
利用しようとしている特定のAIツールとアカウントで、この種の情報を扱うことを組織が認めているか確認すること。個人アカウントを、雇用主が承認したワークスペースと同じように扱ってはならない。文書に制限がある場合や、許可が明確でない場合は、IT部門またはセキュリティ部門に承認済みの手順を確認しよう。
アクセス、保持、学習、接続アプリに関するルールを確認する。コンテンツをモデルの学習から除外する設定で答えられるのは、その確認事項の一部にすぎない。機密情報を削除すれば露出を抑えられるが、雇用主のルールに優先するわけではない。
認証情報など、アクセスを可能にするものを削除する
まず、パスワード、APIキー、アクセストークン、秘密鍵、リカバリーコード、認証情報を含むデータベース接続文字列を確認する。トラブルシューティングのログ、設定ファイル、スクリーンショットも確認しよう。こうした情報は見落としやすい。
シークレット全体を、[API_KEY_REMOVED]のような説明的なプレースホルダーに置き換える。作業に必要ないのに認証情報の一部だけを残すのは避けよう。アクセストークンを含むリンクや、非公開リソースへのアクセスを許可するURLも削除する。
コーディングやトラブルシューティングの依頼では、ダミーの認証情報を使った小さな例を提示すればよい。モデルが通常必要とするのは問題の構造を理解することのほうであり、システムへの認証ではない。
こうした値を保護する重要性はチャットボットにとどまらず、たとえば AI企業がGitHub上に公開したAPIキーなどのシークレットに関する報道が示している。
個人情報と身元を特定できるコンテキストを削除する
不要な場合は、氏名、個人のメールアドレス、電話番号、自宅住所、政府発行の識別番号、口座番号、顧客IDや従業員IDを削除する。健康情報、給与記録、人事評価、懲戒に関する情報は、特に機密性が高いものとして扱おう。
氏名を「従業員A」に置き換えても、誰なのか特定できる情報が残る可能性がある。固有の役職名、小規模なオフィスの所在地、正確な事件発生日、出来事の詳細な説明があれば、その文書が誰について書かれたものか絞り込めてしまう。
英国のInformation Commissioner’s Officeは、 直接的な識別子を削除するだけでは、効果的な匿名化を確実にするには不十分だと説明している。コンテキストや、情報を組み合わせて特定できる可能性も重要だ。
文章作成の作業なら、元のケースを架空の例に置き換えることを検討しよう。実際の記録を使った分析が必要な場合は、名前を簡単に置き換えればデータセットが匿名化されると考えず、承認済みのデータ取り扱い手順を利用すること。
機密性の高い事業情報とセキュリティ情報を削除する
識別情報だけでなく、文書の内容も確認する。社名が記載されていない企業の買収計画、未発表の製品ロードマップ、交渉中の割引、売上予測も機密情報であり続ける可能性がある。
OWASPの AIシステムにおける機密情報の開示に関するガイダンスでは、保護が必要な情報として、財務情報、法的文書、事業データ、セキュリティ認証情報が挙げられている。
作業内容と雇用主のポリシーに応じて、次の情報を削除または置き換える。
- 未公開の業績、予算、利益率、予測。
- 顧客リスト、契約条件、価格合意、販売機会。
- 独自のソースコード、製品設計、研究成果。
- 内部ホスト名、ネットワーク図、脆弱性の詳細、インシデント対応情報。
- 法的助言、訴訟戦略、機密性の高い人事上の判断。
メールを分かりやすくする手助けだけが必要なら、正確な契約金額や顧客の身元を含めても有益とは限らない。これらをプレースホルダーに置き換え、承認済みのエディターで後から実際の情報を挿入しよう。
こうした詳細情報が依頼した分析に不可欠なら、内容を変更したうえで、元の文書を説明しているかのように回答を利用してはならない。その情報が承認された環境に作業を移そう。
ファイルをアップロードする前に隠れたコンテンツを確認する
短いテキストを貼り付ける場合と、ファイル全体をアップロードする場合では、必要な確認が異なる。アップロードには、アシスタントに使わせるつもりだった段落やワークシート以外のコンテンツが含まれる可能性がある。
MicrosoftのDocument Inspectorに関するガイダンスでは、コメント、変更履歴、文書プロパティ、非表示のスプレッドシートの行やワークシート、プレゼンテーションのノートなど、隠れている可能性のあるコンテンツが示されている。
Windowsの対応するOfficeデスクトップアプリでは、コピーを作成したうえで、［ファイル］>［情報］>［問題のチェック］>［ドキュメントの検査］を使用する。Word for MacにはDocument Inspectorが含まれていないため、文書のプロパティ、コメント、変更履歴など、機密情報を含む可能性のあるコンテンツを手作業で確認する。何かを削除する前に、検出された内容を確認しよう。Microsoftは、削除が元に戻せない場合があり、一部の項目には手動での対応が必要だと注意喚起している。
スクリーンショットについても、氏名、メールアドレス、ブラウザーのタブ、内部URL、通知を確認する。PDFの場合は 適切な墨消しツールを使って墨消しを適用し、別のコピーとして保存する。不要なメタデータ、コメント、添付ファイルなど、その他の隠れたコンテンツも削除する。保存したコピーを再度開いて結果を確認しよう。テキストの上に黒い長方形を描くだけでは、基になるコンテンツは削除されない。
可能であれば、必要なテキストだけを別のローカル下書きにコピーし、送信前にその抜粋そのものを確認する。
AIに依頼する作業を小さくする
多くの編集作業では、元の文書を提供せずに状況を説明できる。
氏名、口座情報、価格情報を含む顧客とのメールスレッドを貼り付ける代わりに、次のように依頼してみよう。
「配送が遅れることを説明する、簡潔でプロフェッショナルなメールを作成してください。不便をおかけすることを認め、変更後の予定を提示してください。プレースホルダーとして[CUSTOMER]と[DATE]を使用してください。」
これなら、顧客の記録を開示せずに、目的、トーン、構成をアシスタントに伝えられる。実際の詳細情報は、後から組織の承認済みシステムで追加しよう。
コンテンツを送信する前に整理を済ませること。未承認のチャットボットに機密情報を削除させるには、まずその情報を渡さなければならない。同様に、プロンプトに「これは秘密にして」と書いても、検証済みのセキュリティ対策の代わりにはならない。OWASPは、プロンプトによる制限は回避される可能性があると警告している。
最後に残っているものを確認する
送信しようとしている正確なテキストまたはファイルを読む。残っている詳細情報から誰かを特定できないか、企業秘密が明らかにならないか、システムへのアクセスが可能にならないかを確認する。次に、承認済みのツールが残った情報の利用を認めていることを確認する。
ブラウザーや、使用する拡張機能についても同じ注意を払おう。 AIとの会話を盗み出した悪意のあるChrome拡張機能に関する報道は、周辺ソフトウェアも精査する必要がある理由を示している。
セキュリティチームにとって、これはガバナンスの課題でもある。組織は、承認済みのAIツールと許可されるデータカテゴリーの一覧を公開し、従業員が共有できるもの、削除しなければならないもの、助けを求めるべき場面を具体例で示すべきだ。そうすればスタッフは、 シャドーAIがもたらすより広範なセキュリティ上の課題の背後にある未承認サービスに代わる、実用的な選択肢を得られる。
すでに制限された文書や有効な認証情報を送信してしまった場合は、それ以上の共有を止め、インシデント報告の手順を通じてセキュリティチームに知らせる。露出した認証情報は無効化またはローテーションが必要になる可能性がある。チャットを削除すれば露出が解消されると考えてはならない。
有効な習慣は、まず作業を定義し、それを達成できる範囲で承認済みの最小限の抜粋だけを共有することだ。有用なコンテキストと機密情報を自信を持って切り分けられないなら、貼り付ける前に助けを求めよう。
AIのヒントやテクニック、プロンプトのコツをもっと学びませんか？eSecurity Planetの読者は、仕事でAIをより自信を持って使えるよう支援する実践的な学習プラットフォーム、The Neuron Academyを7日間無料で利用できます。 すべてのレッスンを見る →
無料で学べる 「AIとの話し方」をお教えします！The Neuron Academyの6分間のコースを試して、より良いプロンプトを書き、AIからさらに役立つ結果を得るための簡単な方法を学びましょう。ほかのAIコースも7日間無料で閲覧できます。 すべてのレッスンはこちら →