AIアシスタントは、悪意あるメールを読んだり、PDFを開いたり、カレンダーの招待を処理したりするだけで、機密性の高い企業データを漏えいさせる可能性がある。
これが、間接的なプロンプトインジェクション攻撃の危険性だ。間接的なプロンプトインジェクション攻撃では、攻撃者が、AIシステムが日常業務で遭遇する一見無害なコンテンツに悪意ある指示を隠すことができる。 Webページやカレンダーアプリも、こうした攻撃の配信に利用される。
組織がAIエージェントに、機密情報や業務アプリケーションへのより広範なアクセス権を与える中、リスクは高まっている。エージェントが攻撃者の隠された指示に従えば、機密ファイルを取得したり、企業データを漏えいさせたり、権限のない操作を実行したりする可能性があり、従業員が異常に気づかないまま進むことも考えられる。
セキュリティチームにとって、この課題への対応は急務だ。AIエージェントが信頼できないコンテンツに遭遇する場所を特定し、エージェントがアクセスできる範囲を制限し、日常的なタスクがセキュリティインシデントに発展するのを防がなければならない。
間接的なプロンプトインジェクションとは?
プロンプトインジェクション攻撃は、一般に次の2種類に分けられる。
- 直接的なプロンプトインジェクション:脅威アクターが、AIシステムの入力インターフェースを通じて悪意ある指示を直接送信する。
- 間接的なプロンプトインジェクション:脅威アクターが、AIシステムが正当なタスクの実行中に遭遇する外部コンテンツに悪意ある指示を埋め込む。
間接的なプロンプトインジェクションは、AIシステムに、認可されたコマンドではなく信頼できない情報源からの指示に従わせようとする。こうした攻撃は、脅威アクターが標的のAIシステムと直接やり取りしなくても発生する可能性がある。
例えば、文書を要約しているAIアシスタントが、社内の財務記録を取得するよう指示する内容に遭遇する場合がある。エージェントがその指示に従い、十分な権限を持っていれば、情報を権限のない宛先に送信しようとする可能性がある。
ただし、悪意あるコンテンツに遭遇したからといって、必ずしも攻撃が成功するわけではない。結果は、AIシステムが信頼できない指示をどのように扱うか、またどのような操作を許可されているかによって決まる。
間接的なプロンプトインジェクション攻撃の一般的な種類
脅威アクターは、AIシステムが日常的なタスクの実行中に処理するコンテンツに悪意ある指示を隠すことができる。こうした攻撃は、さまざまな種類の外部コンテンツを通じてAIアシスタントやエージェントを標的にする。
メールを利用した攻撃
脅威アクターは、AIアシスタントが読むメールや要約するメールに悪意ある指示を隠すことができる。手法の1つは、テキストの色をメッセージの背景色に合わせるものだ。これにより、人間の読者には指示を見つけにくくしながら、AIシステムからは読み取れる状態にできる可能性がある。
PDFや文書を利用した攻撃
PDFファイルやその他の文書には、AIエージェントを操るために作られた隠し指示を含めることができる。エージェントがこうしたコマンドに従えば、機密情報を取得したり、許可されたタスクの範囲を超える操作を実行したりする可能性がある。
カレンダー招待を利用した攻撃
脅威アクターは、カレンダー招待の説明欄に悪意あるプロンプトを埋め込むか、会議の議題に埋め込んでAIアシスタントを操ることができる。アシスタントがこれらの指示に従えば、従業員が招待を操作しなくても、権限のない操作を実行する可能性がある。
悪意あるWebページを利用した攻撃
脅威アクターは Webページのコンテンツに悪意ある指示を埋め込むか、隠しHTML要素を使ってAIエージェントを標的にすることができる。画像の代替テキストにも、AIエージェントが閲覧中に処理する可能性のあるプロンプトを含められるため、意図しない操作を引き起こすおそれがある。
Proofpointの調査が明らかにした攻撃者の手法
Proofpointの研究者は2026年7月、脅威アクターが間接的なプロンプトインジェクション攻撃向けのツールを開発し、広告していたと報告した。
広告されていたサービスの一部は、月額約150ドルから利用でき、悪意あるメールやPDFファイルを作成するツールを提供していたとされる。ほかのツールは、カレンダー招待やWebページを標的にするよう設計されていた。
Proofpointはまた、AIエージェントにXLSXファイルを探して送信させることを目的とした指示を含むPDFを使ったテストについても記録した。
調査時点では、いくつかの手法はまだ実験段階にあり、Proofpointは、こうした攻撃が広く悪用されていることを確認していなかった。
間接的なプロンプトインジェクション攻撃を検知・防止する方法
セキュリティチームは、AIエージェントの活動を監視して不正な挙動の兆候を確認する必要がある。予期しないファイルアクセスや外部への接続は、特にエージェントが外部コンテンツを処理した後に発生した場合、攻撃を示している可能性がある。
組織は、次の対策を実施することで間接的なプロンプトインジェクションのリスクを低減できる。
- エージェントの権限を制限する:割り当てられたタスクに必要なアプリケーションと情報へのアクセスに限定する。
- 信頼できる指示と外部コンテンツを分離する:取得した文書やメッセージは信頼できないデータとして扱い、エージェントが従うべきコマンドとは見なさない。
- 機密性の高い操作には承認を必須とする:エージェントが機密ファイルを転送したり、その他の影響の大きい操作を実行したりする前に、認可チェックを必ず行う。
- 外部通信を制御する:エージェントの接続先を、承認済みのアプリケーションと宛先に限定する。
- エージェントの活動を監視する:認可されたワークフローから外れた操作を調査できるよう、関連するコンテンツの情報源とツール呼び出しを記録する。
- 機密情報を保護する: データ損失防止(DLP)の制御を適用し、権限のないデータ転送の検知と阻止に役立てる。
- セキュリティ制御をテストする:プロンプトインジェクションのシナリオをインシデント対応演習に組み込み、既存の保護策で攻撃を検知・封じ込められるかを評価する。
セキュリティ制御は、AIエージェントのアクセス制限を実施し、認可要件をAIモデルとは独立して適用する必要がある。プロンプトフィルタリングで悪意ある指示の一部は検知できるかもしれないが、すべての攻撃を防ぐことはできない。
結論
組織がAIエージェントに業務システムへのより広範なアクセス権を与える中、間接的なプロンプトインジェクションはセキュリティリスクを生み出している。日常的なタスクであっても、外部コンテンツに隠された悪意ある指示にエージェントがさらされる可能性がある。
組織は、AIエージェントにどの程度の権限を与えているか、また既存のセキュリティ制御によって、エージェントが操作された場合に不正な操作を阻止できるかを評価すべきだ。
追加のガイダンスとして、当社の AI Agent Safety Checklistを確認し、AIエージェントを導入する前に必要な保護策を評価してほしい。





