新たなセキュリティ調査によると、GrokのAIアプリビルダーで構築された3万5000超のアプリが、ログインなしで開ける状態になっていた。
サイバーセキュリティ企業のClarocは11月10日、一部のプロジェクトに機密性の高い業務情報や個人記録が含まれていたと報告した。今回の調査結果は、社内データの取り扱いをAI生成アプリに依存する組織への懸念を浮き彫りにしている。
今回の調査からは、2つの潜在的なセキュリティ上の問題が浮かび上がった。一般公開可能なリンクで公開されたアプリと、保存された情報を露出させかねない不十分なアクセス制御だ。
公開されたアプリから機密ファイルや患者記録が見つかる
Clarocの調査では、SpaceXSI（旧xAI）とXの従業員が作成した、アクセス可能なアプリ24件が特定された。さらに、特定可能な他の30組織に属する内部情報も見つかり、その中にはFortune 500企業6社も含まれていた。
具体的な調査結果は次のとおりだ。
- SpaceXSIとXの従業員。アプリには、従業員の機密性の高いオンボーディング計画や、594件の顧客を対象とする営業区域マップが含まれていた。広告提案書も閲覧可能で、その中には米国の連邦機関向けで「機密」と記されたものもあった。
- 医療機関。ある病院グループのアプリには3500人を超える従業員の名簿が登録され、検索も可能だった。また別のアプリからは、集中治療室の患者の医療情報が明らかになった。
- 請負業者。ある勤怠表アプリでは、パスワードを平文で保存した従業員18人分のアカウントが露出しており、管理者の認証情報も含まれていた。
調査対象となったプロジェクトの大半は、一般的なゲームや基本的なユーティリティーだった。Clarocの推定では、約10件に1件に社内業務情報または個人情報が含まれ、深刻度が「高」または「重大」と評価される情報を含むものはおよそ2％だった。
研究者らは自動スクリーニングと手作業によるレビューを実施したが、悪意ある攻撃者がデータを入手していたかどうかは確認できなかった。
公開リンクと脆弱なアクセス制御がセキュリティ上の問題を露呈
Grokの 公開機能は、各アプリにgrok.meのアドレスを割り当てる。研究者らは、これらのリンクを パッシブDNSレコードから発見したため、URLを見つけた人なら誰でもアクセスできる状態だった。Clarocの有料テストアカウントでは、公開画面で「リンクを知っている全員」があらかじめ選択されていた。ただし、作成者が公開を確定する操作は必要だった。
研究者が作成した2つのアプリを使った別のテストでは、さらなる弱点が明らかになった。一方のアプリにはログインによる保護がなく、訪問者が他の利用者にも見えるレコードを追加できた。
もう一方はGoogle認証を使っていたが、アクセスを許可する前にチームへの所属を確認していなかったため、招待されていないアカウントでも顧客レコードの閲覧、変更、削除が可能だった。研究者らはこの アクセス制御の不備を自分たちのアプリでのみ実証し、第三者のデータは変更していない。
Clarocは11月8日にSpaceXSIへ通知し、2日後に調査結果を公表した。同社は、公開にはユーザーによる明示的な操作が必要であり、従業員アカウントは初期設定で非公開アクセスになっていると説明した。
研究者らは、テストアカウントでは公開共有があらかじめ選択されていたと主張した。その後、従業員が作成した24件のアプリはすべて削除されたが、他のユーザーが公開していたプロジェクトは、報告書の公表時点でもオンラインに残っていた。
従業員が作成したAIツールはセキュリティ監視をすり抜ける可能性
AIアプリビルダーを使えば、従業員は従来のソフトウェア審査を経ずに、動作する業務ツールを公開できる。CISOにとって懸念されるのは、機密情報を保持している可能性があるにもかかわらず、組織の承認済みソフトウェア台帳に載らないアプリを把握できないことだ。
通常のチャットボットとのやり取りとは異なり、シャドーAIアプリはオンラインに残り、企業の記録を保存し続ける可能性がある。
ログイン画面があるアプリでも、権限設定が誤っていれば情報を保護できない可能性がある。こうしたツールを評価するセキュリティチームは、ユーザーがログインできるかどうかだけでなく、招待されていないアカウントがレコードを取得・変更できないかを確認する必要がある。
Webアプリケーションのセキュリティテストを実施すれば、従業員が作成したソフトウェアで機密情報を扱う前に、こうした不備を特定できる。
今回の調査で記録が露出した組織にとって、より差し迫った懸念は、何が一般公開されていたのか、そして露出した認証情報が現在も使えるのかという点だ。アクセスを制限すればさらなる情報開示は防げるが、以前の訪問者がコピーを入手していないかどうかまでは確認できない。
悪意ある悪用の証拠がないとしても、確認された情報露出については、関係する情報の機微性に見合った調査がなお必要だ。
サイバーセキュリティの最新ニュース：Anyday Securityが開始した無料のAI搭載プラットフォームは、組織の防御をテストするため、200件を超える実用的なエクスプロイトを生成したと報じられている。