テネシー州の祖母が、ノースダコタ州で発生した銀行詐欺事件の容疑者だと顔認識システムに誤認され、自宅から1,200マイル以上離れた場所で、約6カ月にわたって拘置所に収監されていた。
この事件を受け、刑事捜査で人工知能に過度に依存することのリスクに、改めて厳しい目が向けられている。
「ノースダコタ州に行ったことは一度もありません。ノースダコタ州の人は誰も知りません」と被害者は語ったと、The Guardianは報じている。
顔認識が不当逮捕につながる
この事件によって、AIを利用した顔認識ツールが刑事捜査でどのように使われているかをめぐる懸念が強まっている。特に、アルゴリズムによる照合結果が容疑者特定の主な根拠となる場合は深刻だ。
この祖母は、捜査当局がノースダコタ州ファーゴで顔認識ソフトウェアを使い、進行中の銀行詐欺捜査と結び付けた後、テネシー州中北部の自宅で逮捕された。
警察記録を引用したWDAY Newsによると、ファーゴの刑事は、2025年4月と5月に発生した一連の銀行詐欺事件に関連する監視映像を調べていた。
映像には、女が偽造した米陸軍の身分証明書を使い、金融機関から数万ドルを引き出す様子が映っていたとされる。
捜査官は容疑者を特定するため、監視映像を顔認識ソフトウェアにかけたと報じられている。システムはその女を、該当する可能性のある人物として示した。
裁判資料によると、刑事はその後、顔立ちや体形、髪形を根拠に、彼女が映像の人物に似ていると結論付けた。
州とのつながりがなかったにもかかわらず、当局は彼女の逮捕状を発行した。
2025年7月、米連邦保安官が、彼女が子どもの世話をしていたテネシー州の自宅に到着し、銃を突き付けて身柄を拘束した。
彼女は、身元詐称と詐欺に関する容疑でノースダコタ州から指名手配されていた逃亡者として、地元郡の拘置所に収監された。
この祖母は移送を待つ間、保釈が認められないまま、テネシー州で約4カ月にわたり拘置された。
当局が彼女をノースダコタ州へ移送したのは2025年10月下旬になってからで、逮捕から108日後、ようやくファーゴの法廷に出廷して容疑に臨んだ。
この時点で、彼女に対する事件の立件は、顔認識による特定と、リップス氏と監視映像に捉えられた容疑者の類似点に関する捜査官の解釈に大きく依存していた。
最終的に彼女は、犯罪が行われた時点でノースダコタ州にいなかったことを証明し、拘束を解かれた。
AI識別システムのリスクを軽減する
法執行機関が顔認識などのAI支援型識別ツールを導入する中、責任ある利用を確保することが重要な課題になっている。
こうしたシステムは捜査の迅速化に役立つ一方、結果を適切な検証なしに決定的な証拠として扱えば、リスクを招く可能性もある。
セキュリティ部門と捜査部門は、AIが生成した照合結果を慎重に検証し、追加の証拠によって裏付けるための安全策を導入すべきだ。
- 人による検証と裏付けとなる証拠を必須とすること。顔認識による照合結果に基づいて法執行措置を取る前に、これらを確認する。
- AIが生成した照合結果を捜査上の手がかりとして扱うこと。相当な理由とはみなさず、候補となる照合結果について独立した分析担当者の審査を求める。
- 照合の信頼度スコアを確認し、結果を検証するため、身体的特徴などの追加識別情報やその他の生体情報指標を利用する。
- 詳細な監査ログと監督手順を維持することで、捜査中の顔認識システムの利用方法を記録する。
- 定期的に精度テストとバイアス評価を実施することで、多様な集団におけるシステム性能を評価する。
- 捜査官に限界についての研修を実施するほか、エラー率と適切な利用方法、AI支援型識別ツールについても教育する。
- テストし、インシデント対応と捜査レビューのプロセスを整備して、誤認の可能性を速やかに検知、調査、是正する。
こうした対策により、組織は誤認のリスクを抑えながら、AI支援型捜査における監督と説明責任を強化できる。
AIの誤検知が監督体制への懸念を高める
この被害者が巻き込まれた事件は、AIシステムが現実世界に影響を及ぼす誤検知を生んだ初めての事例ではない。
顔認識技術はこれまでも世界各地で複数の事件に関連しており、法的な異議申し立てや、より強力な監督を求める声につながっている。
ある事件では、自動検知システムがドリトスの袋を銃と誤認したことで、コンピュータービジョンシステムが管理された環境以外で稼働すると、日用品を誤って解釈する可能性が浮き彫りになった。
法執行、公共安全、監視システム全体でAIの導入が急速に進む中、精度、説明責任、安全性、適正手続きについて複雑な問題が浮上している。
批判する人々は、政府や組織がAIを利用した捜査技術の導入を拡大するにつれ、適切な検証なしにアルゴリズムによる照合結果や自動アラートに過度に依存すれば重大な誤りにつながる恐れがあり、人間の判断に取って代わることは決してあってはならないと警告している。
こうした技術の責任ある導入を導くAIガバナンスフレームワークへの注目が、精度、監督、説明責任をめぐる懸念の高まりを受けて強まっている。