銀行は人工知能（AI）の導入をますます進めているが、規制当局は金融機関がこの技術を制御し続けられるのか知りたがっている。
ロイターによると、米国の銀行規制当局は、銀行に対し、自律型AIエージェントの利用状況や、その動作を管理する安全対策、外国で開発されたモデルへの依存について質問している。欧州当局も、深刻なサイバーインシデントに耐え、そこから復旧するための銀行の備えを調べている。
欧州では、規制当局が銀行に対し、深刻なサイバーインシデントから復旧する能力を強化するよう求めており、より広範な懸念を反映している。AIの能力が、それを管理するために必要な制御策よりも速く進歩している可能性への懸念だ。
AIツールが複数段階にわたる技術的タスクを実行する能力を高める中、その精査が行われている。こうした能力は、防御側と攻撃側の双方がソフトウェアの弱点を特定するのに役立つ可能性がある。銀行にとっての課題は、AIシステムに機密データや重要インフラ、金融業務への過剰なアクセスを与えることなく、こうした能力の恩恵を受けることだ。
規制当局は銀行がAIエージェントをどう制御しているのか知りたがっている
AI開発者は自分たちのモデルは安全だと約束するかもしれないが、銀行規制当局は、そうしたシステムが金融機関の内部で実際に使われたとき何が起きるのか知りたがっている。
ロイターによると、米国では、連邦準備制度理事会（FRB）、通貨監督庁（OCC）、連邦預金保険公社（FDIC）が銀行に対し、自律型AIエージェントの利用状況や、その動作を管理する制御策、導入しているモデルについて質問している。
懸念の一つは監査可能性だ。銀行が、AIエージェントが何をしたのか、いつそれを行ったのか、なぜ特定の行動を取ったのかを再構築できるかどうかである。
規制当局はまた、銀行がこうしたシステムをどう監視し、その行動をどう制限しているのかも調べている。エージェントが機密性の高い処理を実行する前に、人間による承認を必要とするかどうかも含まれる。
例えば銀行は、口座を凍結したり支払い指示を変更したりする前に、従業員がAIによる推奨を確認するよう求めることができる。こうした制御策があれば、AIシステムに重大な判断を無制限に委ねることなく、自動化の恩恵を受けられる可能性がある。
外国で開発されたAIモデルの利用に関する疑問も、規制当局が銀行の依存する技術を調べていることを示している。ただし、こうした質問の背景にある具体的な懸念については、まだ明らかにする必要がある。
規制当局による精査は、関連する二つの課題を浮き彫りにしている。それは、銀行内で利用されるAIシステムを制御することと、サイバーセキュリティーの防御が機能しなくなった場合でも金融機関が業務を継続できるようにすることだ。
AIが銀行にもたらす新たなサイバーセキュリティー上の懸念
AIツールは、金融機関による技術的タスクの自動化や情報の分析、潜在的なセキュリティー脅威の特定に役立つ。しかし、こうしたシステムにより大きな自律性を与えると、誤りを犯したり、悪意ある指示に従ったり、意図された権限を越えて行動したりした場合に何が起きるのかという疑問も生じる。
韓国の銀行の防御を標的としたAIを利用した攻撃が報じられたことから、国際通貨基金（IMF）のサイバー攻撃が金融市場への信頼を損なう可能性があるとの警告に至るまで、最近の動きは、その影響が個々の金融機関を超えて広がる可能性を示している。
中でも特に大きな懸念は、AIがサンドボックスを回避することや、外部の無許可システムに入り込む事例が広がっていることだ。AIが他の分野でこれを実行できるなら、銀行のような機密性の高い分野でも同じことをする可能性がある。
こうした動きが相まって、規制当局が銀行に対し、AIの制御策と、サイバー防御が機能しなくなった場合の復旧能力の両方を強化するよう求めている理由が明らかになる。
AIに対する監督強化が銀行にもたらす意味
規制当局による精査が強まれば、銀行はAIシステムが明確に定められた範囲内で動作し、必要な場合には従業員が介入できることを示すよう迫られる可能性がある。
金融機関にとっては、より厳格なテスト、AIの活動に関するより良い記録、自律型エージェントがアクセスまたは変更できる対象へのより厳しい制限、重要サービスに対するより強固な復旧体制が必要になる可能性がある。
影響は顧客にも及ぶ。深刻なサイバーインシデントによって、決済が中断したり、口座へのアクセスが制限されたり、機密性の高い金融情報が流出したりする可能性がある。効果的な監督と復旧計画があれば、攻撃を防げない場合でも、銀行はその影響を抑えられる。
規制当局にとっての中心的な問いは、金融業務の保護を担う人々とシステムに対し、AIが説明責任を果たし続けていることを銀行が示せるかどうかだ。
その他のニュース：改ざんされたLedgerのハードウェアウォレットに関する報告は、物理的なサプライチェーン攻撃が暗号資産の保有資産を危険にさらし得ることを浮き彫りにしている。