この記事はもともとTechRepublicで公開された。
人工知能エージェント、すなわち人間に代わって作業を実行したり意思決定を行ったりする自律型ソフトウェアが、企業でますます普及している。営業リードへの電話やデータ入力など、反復作業を従業員に代わって処理することで、業務効率を大幅に高められる。
しかし、AIエージェントはユーザーの制御外で動作できるため、新たなセキュリティリスクをもたらす。ユーザーはAIエージェントが何をしているのか常に把握しているとは限らず、こうしたエージェントは互いにやり取りすることで、能力の範囲を広げることもある。
これは、アイデンティティーを基盤とする脅威に関して特に問題となる。セキュリティ企業BeyondIDの新たな調査によると、米国企業ではAIエージェントに独自にログインさせ、機密データへのアクセスやアクションの実行を許可しているケースが多い。それにもかかわらず、重要システムにアクセスできるAIエージェントを積極的に特定・把握している企業はわずか30％で、セキュリティ上の盲点が生じている。
AIエージェントに関連する最大のセキュリティ脅威
米国のITリーダーを対象とした調査からは、ワークフローにAIエージェントを導入することのセキュリティ上の影響を懸念する人が多いことが明らかになった。回答者の37％が挙げた最大の脅威は、ユーザーになりすますAIだった。これは、数多くの注目を集めた詐欺によって多額の金銭的損失が生じていることと関連している可能性が高い。
適切に保護されていなければ、悪意ある攻撃者は企業のAIエージェントになりすましたり乗っ取ったりして、信頼された動作を模倣できる。その結果、システムやユーザーをだまして、権限のないアクセスを許可させたり、有害なアクションを実行させたりする可能性がある。それでも、BeyondIDの調査で、非人間のアイデンティティーの保護を最大のセキュリティ課題の1つと考えているリーダーはわずか6％だった。
「AIエージェントは、危険になるために悪意を持つ必要はない」と報告書は指摘している。「監視されなければ、広範なアクセス権を持ちながら説明責任を負わない、シャドーユーザーになり得る」
この業界はセキュリティ脅威のリスクが特に高い
医療業界は特にリスクが高い。診断や予約管理などの業務にAIエージェントを急速に導入している一方で、アイデンティティー関連の攻撃に対して非常に脆弱なままだからだ。調査対象となった医療業界のITリーダーのうち、61％は自社がこのような攻撃を受けたことがあると回答し、42％はアイデンティティーに関連するコンプライアンス監査に不合格となったと答えた。
「AIエージェントは現在、保護対象医療情報（PHI）を扱い、医療システムにアクセスし、強固な監督を受けないまま第三者とやり取りすることが多い」と研究者らは記している。
セキュリティリスクがあるにもかかわらず、AIエージェントはより強力になり、人気も高まっている
2024年末、TechRepublicは今年、AIエージェントの利用が急増すると予測した。OpenAIのCEO、Sam Altman氏は1月のブログ投稿でこれに同意し、「AIエージェントが初めて『労働力に加わり』、企業の生産性を大きく変える可能性がある」と述べた。今月に入って、AmazonのCEOは、高度なAIエージェントの統合がさらに進むことで、将来的な人員削減につながる可能性を示唆した。
OpenAIとAnthropicはいずれもエージェント製品の能力拡張に多額の投資を行っており、Altman氏が強調するその力の雪だるま式の増大は、2024年の1％未満から増加し、2028年までには企業向けソフトウェアアプリケーションの33％にエージェント型AIが組み込まれると、Gartnerは予測している。
しかし、セキュリティリスクを取ることを望まない組織もあり、欧州委員会はオンライン会議でのAI搭載仮想アシスタントの利用を禁止している。