組織がワークフローの自動化、データの要約、意思決定の支援を目的にAIエージェントを急速に導入する中、セキュリティおよびガバナンスの担当チームは新たな課題に直面している。それは、管理されないリスクを持ち込むことなく、安全にAIを導入するにはどうすればよいかという問題だ。
従来のSaaSツールとは異なり、AIエージェントは複数のシステムにまたがって、データを動的に解釈、生成、操作できる。そのため、監督、適用範囲の管理、ガバナンスが不可欠になる。
このチェックリストは、IT、セキュリティ、コンプライアンス、リスクの責任者が導入前にAIエージェントを評価できるよう作成されたものだ。
誇大な期待に流されず、運用上、規制上、評判上のリスクを低減する実践的な対策に焦点を当てている。
1. データセキュリティとプライバシー対策
AIシステムの安全性は、アクセスして処理するデータの安全性に左右される。AIエージェントを有効化する前に、組織はデータがシステムに入り、システム内を通過し、システムから出ていく過程を把握しなければならない。
データの取り扱いと保存
主な確認事項：
- 顧客データや社内データを外部モデルの学習に使用しているか？
- データの保持および削除に関する明確なポリシーがあるか？
- プロンプトと出力を保存しているか？保存している場合、期間はどのくらいか？
- データは暗号化されているか（転送中および保存時）？
- ログを監査できるか？
AIに関する多くのリスクは、データ利用ポリシーが不明確であることに起因する。プロンプトや出力が無期限に保持されると、機密情報が意図した期間を超えて残存する可能性がある。
保存時および転送中の暗号化は標準とすべきであり、監査ログによってAIが生成したアクションを追跡できなければならない。
また組織は、データが基盤モデルの再学習に使用されているかどうかも確認すべきだ。再学習によって、コンプライアンスや機密保持に関する懸念が生じる可能性がある。
アクセス制御
- アクセスはロールベース（RBAC）になっているか？
- 管理者はAIがアクセスできるデータを制限できるか？
- AIの対象範囲はエンティティ単位のコンテキストか、それともシステム全体へのアクセスか？
- SSOが必須化されているか？
対象を限定したエンティティ単位のアクセスにより、過剰な情報公開のリスクを低減できる。特定のレコードだけが必要なのに、AIエージェントがデフォルトでナレッジベース全体にアクセスできる状態にしてはならない。
強固なID連携（SSO、RBAC、条件付きアクセスなど）により、AIの機能を既存の最小権限ポリシーに適合させられる。
2. 人間を介在させるガバナンス
AIは人間の意思決定を補強すべきであり、説明責任に取って代わってはならない。
意思決定の管理
- AIは自律的に変更を加えるか？
- それとも、人間の承認を得るための推奨事項を提示するか？
- 出力を編集、却下、または無視できるか？
- AIの出力を使用して行った意思決定を追跡できるか？
高リスクのアクション（コンプライアンス上の判断、財務上の変更、ポリシーの適用など）には、人間の承認を必須とすべきだ。
意思決定がAIによるものか、人間が編集したものか、完全に手動で行われたものかを示す、明確な監査証跡が必要だ。自動化によるエラーの連鎖を防ぐには、人間が介入して上書きできる機能が不可欠である。
3. 正確性、評価、ハルシネーション対策
AIシステムは、特にコンテキストが不完全な場合、誤った出力や捏造された出力（ハルシネーションなど）を生成する可能性がある。
モデルの信頼性
- 測定可能な精度ベンチマークがあるか？
- 出力は自社固有のコンテキストに基づいているか？
- 引用や推論が提示されるか？
- フィードバックループがあるか？
信頼できるAIには、コンテキストに基づく処理、明確に定義された評価用データセット、説明可能性が必要だ。
ベンダーは、測定可能な精度ベンチマークを公開し、出力がどのように検証されるかを示すべきだ。
フィードバックループがあれば、固定的な動作を受け入れるのではなく、時間の経過とともにモデルの性能を改善できる。
4. コンテキストの境界とデータ範囲
明確なデータ境界によって、意図しない範囲へのアクセスを防止できる。
コンテキストの分離
- AIがアクセスできる文書を特定のものだけに制限できるか？
- エンティティをまたぐデータの混在を制御できるか？
- サポートされないデータ形式が文書化されているか？
- AIが「見る」データについて透明性が確保されているか？
組織はAIがどの範囲までデータを可視化できるかを把握しなければならない。エンティティをまたぐデータの混在（事業部門間や顧客間など）は、法的リスクやプライバシーリスクを生む。データ範囲を透明化することで、意図しない誤用を防止できる。
5. コンプライアンスと規制対応
AIガバナンスは、主権AI戦略や規制上の期待において重要性を増している。
ガバナンス基準
- ベンダーはISO 42001に準拠しているか？
- SOC 2 / ISO 27001の監査に対応しているか？
- AI固有のリスクが文書化されているか？
- 監査に利用できる説明可能性が確保されているか？
ISO 42001などの規格は、AIガバナンスを正式な枠組みとして定めている。ベンダーは、規制当局による審査やコンプライアンス監査を支える文書を提供すべきだ。規制産業では、説明可能な出力が特に重要になる。
6. 運用対策とインシデント対応
AIの障害は、他の本番環境のインシデントと同様に扱うべきだ。
リスク低減
- AIのインシデント対応計画が文書化されているか？
- AIの機能を直ちに無効化できるか？
- フォレンジック調査用にプロンプトが記録されているか？
- モデルのバージョンを追跡できるか？
予期しない動作が発生した場合、組織にはAIの機能を迅速に停止できる能力が必要だ。バージョン追跡により、モデルの動作の変化を特定の更新に結び付けられる。
7. 変更管理と安全な導入
AIの展開は、規律ある変更管理の手順に従うべきだ。
段階的な展開の管理
- AIはフィーチャーフラグの背後で展開されているか？
- 特定のユーザーだけに展開を限定できるか？
- カスタムワークフローを有効化または無効化できるか？
- サンドボックスまたはベータ環境があるか？
段階的な導入によってリスクを低減できる。限定された環境でAIをテストすれば、組織全体に公開する前にワークフローの抜け漏れを特定できる。
8. ユースケースのガードレール
すべてのAIユースケースが同じリスクを伴うわけではない。
承認済みの利用と制限された利用
- 承認済みのユースケースが定義されているか？
- 高リスクのユースケースが制限されているか？
- 従業員向けの指針が文書化されているか？
- 利用状況が記録されているか？
AIに、監督なしで法的助言、コンプライアンス上の承認、財務上の意思決定権限を与えるべきではない。明確なガードレールによって誤用を防ぎ、監査リスクを低減できる。
9. ベンダーの透明性チェックリスト
ベンダーに確認すべき事項：
- どのLLMプロバイダーを利用しているか？
- 顧客データを学習に使用しているか？
- ハルシネーションの低減戦略はどのようなものか？
- どのような精度ベンチマークを公開しているか？
- どのような認証を取得しているか？
- 顧客環境をどのように分離しているか？
- どの程度迅速にAI機能を無効化できるか？
ベンダーの透明性は第三者リスクを低減するのに役立つ。
10. ITリーダーシップに向けた戦略的な質問
AIコワーカーは以下を満たすべきだ：
- 監査対応力を向上させる
- 手作業によるエラーを低減する
- 説明可能な出力を提供する
- 人間による監督を維持する
- ガバナンスフレームワークに適合する
以下を行ってはならない：
- 制御されていないブラックボックスとして動作する
- 過剰なデータにアクセスする
- 不可逆的な自律的変更を加える
- 監査上の盲点を生み出す
最終的な推奨事項
Claude、あるいはその他のAIコワーカーの導入を承認する前に、ITチームとセキュリティチームは以下を必須とすべきだ：
- 正式なセキュリティレビュー
- データ処理に関する補遺
- 管理されたパイロット導入
- 明確に定義された人間による承認ワークフロー
- 文書化されたAIガバナンスポリシー
AIエージェントは、明確に定義されたガードレールの範囲内で導入された場合に限り、運用効率と意思決定支援を実現できる。
AIの導入が加速する中、規律あるガバナンスが、チェックされていない自動化ではなく、こうしたツールが資産になるか負債になるかを決める。