Les assistants IA promettent de simplifier la gestion de l'argent, mais certaines des plus grandes banques américaines cherchent à les tenir à l'écart des comptes de leurs clients.
De grandes institutions financières américaines, notamment Morgan Stanley, JPMorgan Chase et Bank of America, renforcent les contrôles visant les agents IA tiers qui accèdent aux comptes de leurs clients, selon un article publié par Axios le 22 octobre. Les banques s'inquiètent de voir des outils automatisés utiliser les identifiants de leurs clients pour accéder à des informations financières, contacter des centres d'appels et éventuellement initier des transactions.
La préoccupation concerne les outils automatisés qui utilisent les identifiants bancaires des clients pour accéder aux comptes, certains tentant apparemment des actions qui semblent aller au-delà des instructions des utilisateurs. Les banques s'inquiètent également de voir des agents contacter des centres d'appels et potentiellement initier des transactions.
Cet accès n'implique pas nécessairement des identifiants volés ni des pirates s'introduisant dans les systèmes bancaires. Les clients peuvent avoir volontairement communiqué leurs noms d'utilisateur et leurs mots de passe à des services d'IA, même lorsque leur banque interdit ce type de pratique.
Morgan Stanley a bloqué l'accès de tiers à ses plateformes, tandis que JPMorgan, Bank of America et Citi restreignent également l'accès, a rapporté. Reuters a indiqué que les banques signalaient et bloquaient les transactions faisant intervenir des identifiants partagés.
Malgré ces restrictions, la banque a indiqué ne pas avoir observé d'agents IA malveillants accéder à ses plateformes, selon Axios. Jamie Dimon, le PDG de JPMorgan, avait précédemment déclaré que la banque n'autoriserait pas des agents externes à accéder à ses systèmes sans contrôles appropriés.
Le problème de l'identité derrière les services bancaires dopés à l'IA
La difficulté ne se limite pas à l'identification des logiciels automatisés. Les banques doivent déterminer si un agent est autorisé à effectuer une action donnée et si cette action correspond aux intentions du client.
Ted Miracco, PDG d'Approov, estime que la responsabilité incombe aux clients qui communiquent leurs identifiants bancaires et aux fournisseurs qui conçoivent des agents pour les demander, plutôt qu'aux systèmes d'IA eux-mêmes.
« Il n'y a pas de « machine devenue incontrôlable » dans cette histoire. Il n'y a que des personnes irresponsables qui transmettent leurs identifiants bancaires à des logiciels d'IA et des fournisseurs qui commercialisent des agents les réclamant. Il s'agit dans les deux cas de décisions humaines, qui devraient toutes deux entraîner des conséquences financières ; pourtant, à l'heure actuelle, ce n'est clairement le cas pour aucune des deux », a déclaré Miracco à eSecurity Planet.
L'utilisation croissante des agents IA soulève également des questions sur le niveau de rigueur avec lequel les banques testent les contrôles de sécurité qui protègent les comptes de leurs clients.
John Strand, propriétaire de Black Hills Information Security, a averti que les tests d'intrusion conventionnels pouvaient laisser des failles lorsque les comptes clients étaient exclus des tests.
« Exclure les comptes clients du périmètre ne peut pas signifier laisser les contrôles qui les protègent sans tests », a déclaré Strand.
Pourquoi l'accès en lecture seule pourrait être la prochaine étape
Les banques explorent une solution intermédiaire qui préserve l'utilité de l'automatisation sans donner aux outils d'IA le contrôle de l'argent des clients. Selon Axios, de nombreux établissements ont approuvé ou sont en train d'adopter un accès en lecture seule, qui permet aux agents de récupérer des informations financières sans exécuter de transactions.
John Carberry, « détective des solutions » chez Xcape Inc., estime que les institutions financières devraient abandonner les identifiants partagés et adopter des contrôles d'accès fondés sur des API, notamment des flux OAuth avec des autorisations limitées.
Cette approche pourrait permettre aux clients d'utiliser l'IA pour catégoriser leurs dépenses ou analyser leurs habitudes de consommation sans autoriser un agent à transférer des fonds. Toutefois, l'accès en lecture seule n'est pas sans risque. Les relevés financiers peuvent révéler des informations sensibles sur les habitudes de dépenses, les soldes des comptes et l'historique des transactions.
Les banques devraient malgré tout appliquer des autorisations limitées, surveiller les accès et proposer des moyens de révoquer l'autorisation accordée à un agent.
Ce que cela signifie pour les clients des banques
Les clients devraient éviter de communiquer leurs mots de passe bancaires à des outils d'IA tiers et consulter les règles de leur banque avant de connecter leurs comptes financiers à un assistant. Même lorsqu'un outil propose une automatisation pratique, lui accorder l'accès au compte peut enfreindre les politiques de la banque ou exposer des relevés financiers personnels.
Les incidents signalés ne permettent pas d'établir l'existence d'un vol généralisé ou de pertes financières confirmées. Mais ils mettent en évidence un problème concret : un client peut autoriser un accès sans comprendre pleinement ce qu'un système automatisé pourrait en faire.
Les banques doivent contrôler ce que les agents peuvent faire
Le blocage des agents externes peut réduire l'exposition immédiate, mais il pourrait également limiter les outils financiers légitimes à mesure que les services dopés à l'IA se généralisent. Les banques devront trouver des moyens de distinguer les agents vérifiés des utilisateurs ordinaires, de restreindre les autorisations et de conserver une trace des actions effectuées pour le compte de leurs clients.
Strand s'attend à ce que les attaquants utilisent l'IA pour tester à grande échelle les faiblesses liées à l'accès aux comptes, ce qui renforce la nécessité de tester les protections en toute sécurité. Carberry a également averti que des risques similaires liés aux accès automatisés pourraient s'étendre aux dossiers médicaux.
Le défi à long terme pour les banques ne consiste pas simplement à tenir l'IA à l'écart. Il s'agit de faire en sorte que, lorsqu'un agent est autorisé à entrer, son accès soit limité, traçable et lié à l'intention réelle du client.
Autre actualité : La plateforme d'hébergement pour développeurs Zeabur a révélé une faille de sécurité ayant exposé des informations provenant de 321 810 comptes et de plus de 3,2 millions d'enregistrements de variables d'environnement.