AIアシスタントは資金管理を容易にすると期待されているが、米国最大手の銀行の一部は、顧客口座からAIアシスタントを締め出そうとしている。
Morgan Stanley、JPMorgan Chase、Bank of Americaなど米大手金融機関が、顧客口座にアクセスする第三者製AIエージェントへの管理を強化していると、10月22日付のAxiosの報道が伝えた。銀行は、自動化ツールが顧客の認証情報を使って金融情報にアクセスしたり、コールセンターに連絡したり、取引を開始したりする可能性を懸念している。
懸念の中心にあるのは、自動化ツールが顧客の銀行認証情報を使って口座にアクセスすることだ。一部のツールは、ユーザーの指示を超えているように見える操作を試みていると報じられている。銀行は、エージェントがコールセンターに連絡し、取引を開始する可能性についても懸念している。
こうしたアクセスは、必ずしも認証情報の盗難や、ハッカーによる銀行システムへの侵入を意味するものではない。銀行がそのような利用を禁じている場合でも、顧客がユーザー名やパスワードをAIサービスに自発的に共有している可能性がある。
Morgan Stanleyは第三者製エージェントによるプラットフォームへのアクセスを遮断し、JPMorgan、Bank of America、Citiもアクセスを制限していると、Axiosは報じた。Reutersはそう述べたところ、銀行は共有された認証情報を伴う取引を検出して遮断しているという。
Axiosによると、それでも銀行は 逸脱したAIエージェントが同社のプラットフォームにアクセスしたことは確認していない。JPMorganのCEOであるJamie Dimon氏は以前、適切な管理策なしに外部エージェントをシステムに入れることはないと述べていた。
AI銀行取引における本人確認の問題
問題は自動化されたソフトウェアを特定することだけにとどまらない。銀行は、エージェントが特定の操作を実行する権限を持っているか、またその操作が顧客の意図と一致しているかを確認しなければならない。
ApproovのCEO、Ted Miracco氏は、責任を負うべきなのはAIシステムそのものではなく、銀行の認証情報を共有する顧客と、それを要求するエージェントを設計するベンダーだと主張している。
「この話に『暴走したマシン』は存在しない。いるのは、銀行の認証情報をAIソフトウェアに渡す無責任な人々と、それを要求するエージェントを出荷するベンダーだけだ。どちらも人間の判断であり、どちらも金銭的な結果を負うべきだ。しかし現時点では、明確に責任を負っている者はいない」と、Miracco氏はeSecurity Planetに語った。
AIエージェントの利用拡大は、顧客口座を保護するセキュリティー対策を銀行が十分にテストしているのかという疑問も提起している。
Black Hills Information Securityのオーナー、John Strand氏は、顧客口座をテスト対象から外すと、従来型のペネトレーションテストでは抜け穴が残る可能性があると警告した。
「顧客口座を対象外にすることは、その口座を保護する対策をテストしないことを意味してはならない」と、Strand氏は述べた。
次の一手は読み取り専用アクセスか
銀行は中間策を探っており、AIツールに顧客の資金を管理させることなく、有用な自動化を維持しようとしている。Axiosによると、多くの金融機関は読み取り専用アクセスを承認済み、またはその方向に進んでいる。これにより、エージェントは取引を実行せずに金融情報を取得できる。
Xcape Inc.のソリューション・スルース、John Carberry氏は、金融機関は認証情報の共有から脱却し、権限を限定したOAuthフローなど、APIベースのアクセス制御を採用すべきだと述べた。
この方法なら、エージェントに資金移動の権限を与えずに、AIを使って支出を分類したり、支出状況を分析したりできる可能性がある。ただし、読み取り専用アクセスにもリスクはある。金融記録からは、支出習慣や口座残高、取引履歴といった機密情報が明らかになる可能性がある。
銀行はそれでも、限定的な権限を適用し、アクセスを監視し、エージェントの認可を取り消す手段を提供する必要がある。
銀行顧客にとっての意味
顧客は第三者製AIツールに銀行のパスワードを共有することを避け、金融口座をアシスタントに接続する前に銀行の規則を確認すべきだ。便利な自動化機能を提供するツールであっても、口座へのアクセスを許可すれば、銀行のポリシーに違反したり、個人の金融記録を危険にさらしたりする可能性がある。
今回報じられた事案は、広範な盗難や確認済みの金銭的損失を裏付けるものではない。しかし、実際的な問題を浮き彫りにしている。顧客は、自動化システムがアクセス権を使って何をする可能性があるのかを十分に理解しないまま、アクセスを許可できてしまうのだ。
銀行はエージェントの行動を制御する必要がある
外部エージェントをブロックすることは当面のリスクを抑える可能性がある一方、AI搭載サービスが一般化するにつれて、正当な金融ツールの利用も制限しかねない。銀行は、検証済みのエージェントと通常のユーザーを見分け、権限を制限し、顧客に代わって実行された操作の記録を保持する方法を整備する必要がある。
Strand氏は、攻撃者がAIを使って口座アクセスの弱点を大規模にテストすると予想しており、保護策を安全にテストする必要性が一段と高まっている。Carberry氏も、同様の自動アクセスのリスクが医療記録にも広がる可能性があると警告した。
銀行にとって長期的な課題は、単にAIを締め出すことではない。エージェントの入場を認める場合に、そのアクセスを限定し、追跡可能にし、顧客の実際の意図に結び付けることだ。
その他のニュース：開発者向けホスティングプラットフォームZeaburがセキュリティ侵害を公表したところ、32万1810アカウントと、320万件を超える環境変数レコードの情報が流出した。