Cet article a été publié à l’origine sur TechRepublic.
Les agents d’intelligence artificielle, des logiciels autonomes qui exécutent des tâches ou prennent des décisions au nom des humains, se généralisent de plus en plus dans les entreprises. Ils peuvent considérablement améliorer l’efficacité en déchargeant les employés des tâches répétitives, comme appeler des prospects ou saisir des données.
Cependant, du fait de leur capacité à fonctionner hors du contrôle de l’utilisateur, les agents d’IA introduisent un nouveau risque de sécurité : les utilisateurs ne sont pas toujours conscients de ce que font leurs agents d’IA, et ces derniers peuvent interagir les uns avec les autres pour étendre leurs capacités.
Cette situation est particulièrement problématique en ce qui concerne les menaces liées à l’identité. Une nouvelle étude de l’entreprise de sécurité BeyondID révèle que les entreprises américaines autorisent souvent les agents d’IA à se connecter, à accéder à des données sensibles et à déclencher des actions de manière autonome. Malgré cela, seules 30 % d’entre elles identifient ou cartographient activement les agents d’IA qui ont accès aux systèmes critiques, créant ainsi un angle mort en matière de sécurité.
La principale menace de sécurité liée aux agents d’IA
L’enquête menée auprès de responsables informatiques américains révèle que beaucoup s’inquiètent des conséquences, sur le plan de la sécurité, de l’introduction d’agents d’IA dans les flux de travail. La principale menace qui les préoccupe, citée par 37 % des répondants, est l’usurpation d’identité des utilisateurs par l’IA. Cela est probablement lié aux nombreuses arnaques très médiatisées qui ont entraîné des pertes financières considérables.
S’ils ne sont pas correctement sécurisés, des acteurs malveillants peuvent usurper ou détourner les agents d’IA d’une entreprise afin d’imiter un comportement de confiance, et ainsi tromper les systèmes ou les utilisateurs pour leur faire accorder un accès non autorisé ou exécuter des actions nuisibles. Pourtant, l’étude de BeyondID révèle que seuls 6 % des responsables considèrent la sécurisation des identités non humaines comme l’un de leurs principaux défis en matière de sécurité.
« Les agents d’IA n’ont pas besoin d’être malveillants pour être dangereux », indique le rapport. « Sans contrôle, ils peuvent devenir des utilisateurs fantômes disposant d’un accès étendu et n’ayant aucun compte à rendre. »
Ce secteur est particulièrement exposé aux menaces de sécurité
Le secteur de la santé est particulièrement exposé, car il a rapidement adopté les agents d’IA pour des tâches comme le diagnostic et la prise de rendez-vous, tout en restant très vulnérable aux attaques liées à l’identité. Parmi les responsables informatiques interrogés qui travaillent dans la santé, 61 % ont déclaré que leur entreprise avait subi une telle attaque, tandis que 42 % ont indiqué avoir échoué à un audit de conformité lié à l’identité.
« Les agents d’IA traitent désormais des informations de santé protégées (PHI), accèdent à des systèmes médicaux et interagissent avec des tiers, souvent sans supervision stricte », ont écrit les chercheurs.
Malgré les risques de sécurité, les agents d’IA gagnent en puissance et en popularité
Fin 2024, TechRepublic avait prédit que l’utilisation des agents d’IA connaîtrait un essor cette année. le PDG d’OpenAI l’avait confirmé dans un billet de blog publié en janvier, déclarant : « Nous pourrions voir les premiers agents d’IA “rejoindre la main-d’œuvre” et modifier sensiblement la production des entreprises. » Ce mois-ci, le PDG d’Amazon a laissé entendre que de futures suppressions de postes pourraient résulter d’une intégration plus poussée d’agents d’IA avancés.
OpenAI et Anthropic investissent tous deux massivement dans l’élargissement des capacités de leurs produits agentiques, avec Altman claironnant leurs niveaux de puissance toujours plus élevés. D’ici à 2028, 33 % des applications logicielles d’entreprise intégreront une IA agentique, contre moins de 1 % en 2024, selon Gartner.
Cependant, certaines organisations ne veulent pas prendre le risque en matière de sécurité, la Commission européenne ayant interdit l’utilisation d’assistants virtuels alimentés par l’IA lors des réunions en ligne.