金融機関はAIの導入を急速に進めているが、新たな調査によると、多くの銀行はスタックの誤った層を保護している可能性がある。
Liquibaseの研究者は警告している組織がAIモデルやAPIに大きな重点を置く一方で、データベース層が現代の金融インフラで最も露出した部分の一つになっている可能性がある。
「エージェントのガバナンスは、同時に3方向へ進めなければならない」と、DrataのCEO兼共同創業者であるAdam Markowitz氏はeSecurityPlanetへのメールで述べた。
同氏は次のように説明している。「スタックを下へ進み、不可逆なアクションが発生する場所まで。スタックを上へ進み、統制されたアクションの意味を定義するコンプライアンスフレームワークまで。そしてスタック全体にわたり、エージェントが行動するすべてのシステムにまで広げる必要がある」
Adam氏はさらに、「業界の大半は、今も一度に一方向へしか取り組んでいない。そこにこそ、議論が追いつかなければならない」と付け加えた。
AIを利用する銀行のリスクに関する重要ポイント
- AIのセキュリティ対策をモデルやAPIに集中させる一方で、銀行がデータベース層を見落としている可能性があると、研究者が警告している。
- 自律型AIエージェントは、正当なものに見え、検出が難しい方法で、記録やワークフロー、ビジネスロジックを操作する可能性がある。
- AIによる状態の破壊は、SOX、PCI DSS、SOC 2などのフレームワークにおいて、運用、コンプライアンス、フォレンジック上の課題を生む可能性がある。
- 信頼された認証情報、承認済みのワークフロー、正規の自動化ツールによって、悪意あるAI活動が通常の運用に紛れ込む可能性がある。
- 金融機関には、より強固なデータベースガバナンス、ゼロトラスト制御、不変ログ、継続的な監視の導入が求められている。
AIのデータベースリスクと推奨される対策
| AIリスク領域 | 潜在的な影響 | 推奨される対策 |
|---|---|---|
| 承認されていないスキーマ変更 | 金融記録の破損と報告ミス | ポリシーで強制される変更管理と承認 |
| トランザクションワークフローの操作 | 不正、照合の問題、業務の混乱 | 継続的な監視と異常検知 |
| AIによる有効な認証情報の悪用 | 検出が困難な悪意ある活動 | ゼロトラストと最小権限アクセス |
| 監査の可視性不足 | コンプライアンスとフォレンジック調査の課題 | 不変ログと暗号学的な監査証跡 |
| AIによる本番システムへの過剰なアクセス | 運用リスクへの露出増大 | データベースのセグメンテーションと書き込みアクセスの制限 |
| AIによる状態の破壊 | 長期的な完全性と信頼性の問題 | 復旧テストと運用レジリエンス計画 |
AIが金融システムに新たなリスクをもたらす
多くの金融機関は、AIガバナンスをモデルやAPIに適用する一方で、重要な金融業務や記録が保存されているデータベースにはあまり注意を払っていない。
研究者は、AIシステムの自律性が高まり、企業の銀行業務環境にますます統合される中で、これは重大な盲点を生むと指摘した。
研究者の調査結果によると、MythosクラスのAIシステムは、弱点を特定し、攻撃を連鎖させ、企業環境全体でマシンの速度によってアクションを実行できる自律型エージェントだという。
これは金融機関の運用リスクの性質を変えると、研究者らは示唆している。主な脅威はもはや、従来型のデータ窃取やランサムウェアのような業務妨害に限られないためだ。
AIによる状態破壊のリスク
その代わりに、AIを利用した攻撃は、承認されていないスキーマ変更、操作された記録、変更されたビジネスロジックなど、正当なものに見えるサイレントな状態破壊にますます集中する可能性があると、研究者は警告している。
銀行業務の環境では、データベースはAIによるアクションの実行地点であると同時に、そのアクションの恒久的な記録でもある。
研究者によると、自律型AIエージェントは、トランザクションのワークフローを操作したり、業務制御を回避したり、下流での検出や照合が難しい不整合を生じさせたりする可能性がある。
AIによるアクションは、信頼されたアプリ、承認済みのワークフロー、有効な認証情報を利用できるため、悪意ある活動が通常の運用に紛れ込み、セキュリティチームによる検出がより難しくなる可能性がある。
コンプライアンスと説明責任の課題
この調査結果は、AIガバナンス、ソフトウェアサプライチェーンセキュリティ、フォレンジック上の説明責任について懸念を提起している。特に、SOX、PCI DSS、SOC 2など、信頼できる監査証跡、変更管理、データ完全性に依存するコンプライアンスフレームワークが対象となる。
研究者は、企業環境でAIシステムの自律性が高まるにつれ、運用上の説明責任を維持し、監査や調査を支援するため、ガバナンス制御をデータベース層のより深い部分まで拡張する必要があると述べた。
AIへの露出を減らす
AI導入に伴うリスクを低減するため、金融機関は、説明責任と運用レジリエンスを高める、より強固な検証、監視、アクセス制御の対策を導入すべきだ。
- ポリシーで強制されるデータベース変更管理を実装することで、手動レビューだけに頼るのではなく、実行前に変更を検証できる。
- 暗号学的に検証可能な監査証跡を使用し、不変ログと一元化されたガバナンス制御を導入して、説明責任とフォレンジックの可視性を高める。
- スキーマ変更を継続的に監視し、承認されていない操作やその他の異常な挙動の兆候がないか、トランザクション活動、データベースクエリ、下流の状態変更を監視する。
- ゼロトラストと最小権限の原則をAIエージェントに適用するほか、自動化されたワークフロー、サードパーティー統合、機密性の高いデータベース環境にも適用する。
- 重要なデータベースシステムをセグメント化し、可能な限り本番環境へのAIによる直接の書き込みアクセスを制限する。
- 高リスクのスキーマ変更や特権的なデータベース操作について、ID検証、複数当事者による承認、ポリシーベースの制御を強化する。
- インシデント対応をテストし、データベースの復旧と運用レジリエンスの計画を検証して、AIによる状態破壊が発生した際に、組織が迅速に検出・復旧できるようにする。
これらの対策を組み合わせることで、組織は運用レジリエンスを構築し、説明責任を強化するとともに、AIによる操作、データ完全性の喪失、下流システムの混乱への露出を低減できる。
AI運用にはより強固なガバナンスが必要
AIシステムが分析支援ツールから運用タスクを実行できるツールへと進化するにつれ、セキュリティとガバナンスに関する懸念は、モデルの挙動やアプリケーションセキュリティを越え、AIが直接やり取りする基盤インフラやデータシステムにまで広がっている。
Liquibaseの研究者は、組織はAIモデルだけでなく、AIによるアクションが業務運用やコンプライアンスに影響を及ぼし得るデータベース、ワークフロー、企業システムも保護しなければならないと述べている。
組織がAIへのアクセスを制限し、活動を継続的に検証し、AI導入に伴うリスクを低減するうえで重要なのは、ゼロトラストの原則である。