WhatsAppの公開プライバシーポリシーは、ユーザーがデータ保護規制当局に苦情を申し立てる権利を認めている。それにもかかわらず、ヘルプセンターのページに隠されていた指示は、特定のケースではその選択肢を勧めないようAIチャットボットに指示していた。
データ削除サービス企業のRedactは、WhatsAppのヘルプセンターページのHTMLソースコードに埋め込まれた指示を発見した。一部の指示は、アカウント削除の問題について規制当局に苦情を申し立てるよう勧めないようチャットボットを誘導し、別の指示は特定の情報を引用しないよう指示していた。
WhatsAppは、この露呈はバグによるものだと説明し、その後指示を削除した。今回の発見によって、WhatsAppがプライバシー法に違反したことが立証されたわけではない。しかし、AIの回答が企業の公開ポリシーと一致するよう徹底する必要性が浮き彫りになった。
この問題の核心にあるのは何か
Redactが発見した隠されたAI指示のブロック102件は、WhatsAppのヘルプセンターページ80ページに埋め込まれていた。
指示はページのHTMLソースコードに埋め込まれていたため、通常の訪問者には見えなかったが、ページの基盤コンテンツを処理するシステムからは利用できる可能性があった。Redactは、WhatsAppのAIサポートチャットボット向けコンテンツを示すための識別子HelpContentGalaxyLLMIncludeの下に指示を発見した。
引用された例の1つで、WhatsAppは携帯電話や電話番号にアクセスできなくなった場合にユーザーができることを説明していた。しかし、隠された指示はさらに踏み込み、データ保護当局への連絡や、WhatsAppがアカウントを手動で削除できる可能性を示唆しないようチャットボットに指示していた。
これは、企業の公開プライバシー情報で認められている選択肢と、チャットボットが提供するよう指示されていた案内との間に食い違いを生じさせる。
Redactは、WhatsAppのヘルプセンターページ80ページにわたって、AI向けの指示ブロック102件を特定した。すべてが情報を制限するものだったわけではなく、混乱しやすいトピックを明確にしたり、ユーザーをより関連性の高いページに誘導したり、安全上の案内を提供したりする目的のものもあった。
WhatsApp、バグによって指示が露呈したと説明
WhatsAppはWIREDに確認したところ、指示がヘルプセンターのページに表示されたのはバグが原因だったという。同社はまた、AIサポートチャットボットは法的助言を提供することを意図したものではないと述べた。
WhatsAppはWIREDに対し、AIサポートチャットボットは法的助言を提供することを意図したものではないと説明した。AIモデルは幻覚を起こし、ユーザーに不正確な法的情報を提供する可能性があるため、これは妥当な立場だ。そうした情報は、ユーザーと企業の双方にさらなる問題を引き起こしかねない。
しかしRedactは、法的助言を避けることと、ユーザーが利用できる選択肢に関する情報を隠すことには違いがあると主張している。
研究者によると、一部の指示は法的助言を控えるよう促すにとどまらず、チャットボットにデータ保護規制当局への連絡や、関連するプライバシー法への言及を勧めないよう指示していた。
今回の発見は、AIアシスタントの責任を制限することと、ユーザーが自分の選択肢について正確な情報を得られるようにすることの境界を、企業はどこに引くべきかという疑問を投げかけている
顧客向けAIを導入する企業にとっての幅広い意味
顧客と接する役割にAIを導入する企業にとって、今回の事例は、チャットボットが何を言うかだけでなく、何を言わないよう指示されているかにも注意を払う必要があることを示している。
これは、AIシステムが扱う苦情、アカウントの閉鎖、請求をめぐる紛争、プライバシーに関する要請など、ユーザーが次に何をするか決める前に選択肢を理解する必要がある状況で、特に重要になる。
チャットボットが専門的な助言を行わないよう制限するのは妥当だ。しかし企業は、そうした制限によって、基本的で関連性のある情報の提供や、ユーザーを適切な当局・専門家へ案内することまで妨げないよう注意すべきだ。
セキュリティおよびAIガバナンスのチームにとって、今回の事例は、チャットボットへの指示を監査し、実際の顧客シナリオに照らして回答をテストするとともに、社内の制限が公開ポリシーやユーザーの正当な選択肢と矛盾していないか確認することの重要性を浮き彫りにしている。
チャットボットは誤った答えをでっち上げなくてもユーザーを困らせることがある。重要な選択肢を1つ示さないだけで十分な場合もある。
顧客向けAIを導入する企業にとって、教訓は幻覚の防止にとどまらない。企業は、自社システムが何を省くよう指示されているかも検証する必要がある。そうした省略はユーザーの意思決定を左右し、不正確な回答と同じように信頼を損なう可能性があるからだ。
その他のニュース：Microsoft、新たなセキュリティ制御を発表。AIエージェントの動作を監視し、リスクが生じた場合はアクセスを制限。