シンガポールの食品小売企業Bee Cheng Hiangの従業員が、メールマーケティングを一括配信するキャンペーン用のコード作成に生成AIを使ったところ、9万5,000人を超える顧客のメールアドレスが流出した。
このインシデントは、シンガポールで個人データ保護委員会（PDPC）に届け出られた初のAI関連データ侵害となった。規制当局によると、AIツール自体に不具合はなかった。従業員のプロンプトで、受信者のアドレスを非表示にするようツールに指示していなかった一方、テストが不十分で監督者によるレビューもなかったため、問題のあるコードが本番環境に投入されたという。
AI生成のメールコードが9万5,000件のアドレスを流出させる
この侵害が発生したのは4月25日。Bee Cheng Hiangは、AIツールの支援で生成したプログラムを使い、約1,000人の顧客単位でマーケティングメールを送信していた。プロンプトで各受信者のメールアドレスを非表示にするよう指定していなかったため、顧客には同じ一括送信に含まれる他のアドレスが見える状態になった。同社は2日後にPDPCへ侵害を報告した。
The Straits Timesは、正しいコードと問題のあるコードの違いは、数個の括弧の位置にあり、それによってプログラムの受信者処理が変わったと報じた。9万5,000件を超えるメールアドレスが流出したが、その他の個人情報は関与しておらず、PDPCはその後データが悪用された証拠を確認しなかった。
重要なのは、流出したデータがAIによって生成、処理、管理されたものではなかった点だ。AIの役割は、情報開示を引き起こしたコードの作成を支援することに限られていた。
プロンプトと同じくらいテストの不備も問題に
従業員は導入前にプログラムをテストしたものの、受信者がどのように表示されるかを確認するため実際のテストメールを開くことはせず、アクティビティーログだけを確認していた。
Bee Cheng Hiangはまた、監督者によるレビューのプロセスや、業務での生成AI利用を規定する正式なポリシーを設けず、1人の従業員だけにコードの開発とテストを任せていた。PDPCはこのインシデントについて、AIシステムの障害ではなく、メール配信コードの開発における人為的ミスが原因だとした。
AsiaOneによると、Bee Cheng Hiangは問題を発見した後、一括メールの配信を停止してコードを修正し、影響を受けた顧客に通知した。同社はその後、一括メールを送信する前に少なくとも2人の従業員が内容を確認することを義務付けた。
この事例は、セキュリティチームがAI生成コードを他の信頼できないソフトウェア出力と同じように扱うべき理由を示している。正常に動作しているように見えるプログラムでも、開発者がエンドユーザーに実際に届く内容を確認せず、ログだけを検証していれば、個人データを流出させる可能性がある。
シンガポール、AI生成コードへの管理を強化
PDPCは、シンガポールの個人データ保護法への対応を強化するため、Bee Cheng Hiangから自主的な誓約書を受け入れた。この誓約書は2026年9月2日に締結された。
Bee Cheng Hiangは、AI生成コードが個人データを扱う場合の独立した技術レビューなどを含む、従業員のコーディングにおけるAI利用の枠組みを導入する。その他の対策として、ソフトウェアテストの強化、ダミーアカウントによる確認、正式な侵害対応プロセス、従業員研修、一つの受信者欄に複数のアドレスを含むメールの送信を阻止する自動制御なども盛り込まれる。
シンガポールのPDPAでは、罰金として100万シンガポールドル、またはシンガポールにおける組織の年間売上高の10％のいずれか高い方を上限として科すことができる。
BloombergはThe Straits Timesの報道を引用し、この事例がシンガポールのプライバシー規制当局に届いた初のAI関連侵害の届け出だったと報じた。また、Bee Cheng Hiangはこのインシデント以前、業務運営でAIを使ったことがなかったと指摘した。
APAC全域のセキュリティチームにとって、この侵害が意味すること
シンガポールの事例は同国のPDPAに固有のものだが、セキュリティ上の問題は一つの法域にとどまらない。
APAC全域で、従業員によるコーディングや自動化、データ処理への生成AI利用を認める企業は、AIが回答を生成した後に何が起きるかを管理する必要がある。
PDPCは、業務プロセスでAIツールを利用する前に、組織がデータ保護影響評価を実施するよう推奨した。Bee Cheng Hiangの是正措置は、セキュリティチームにとって実践的なチェックリストにもなる。
- 個人データに触れるAI生成コードには、独立したレビューを義務付ける。
- ログだけに頼らず、ダミーアカウントを使って実際の出力をテストする。
- 導入前に明らかなプライバシー上の問題を阻止する自動保護機能を追加する。
この侵害に、高度な攻撃やAIシステムの予期せぬ動作は必要なかった。指示の欠落、限定的なテスト、二重チェックの不在だけで、数万件に及ぶ顧客のメールアドレスが流出した。APAC全域でAIを導入する組織にとって、業務フローに人間によるレビューとセキュリティテストを組み込むことは、依然として不可欠だ。
メールデータが流出した最近の別の侵害については、McKessonのデータ漏えいで、申し立てられた5,520万ドルの恐喝要求後に640万件のメールアドレスが流出した事例をお読みください。