Une grand-mère du Tennessee a passé près de six mois en prison après qu’un système de reconnaissance faciale l’a identifiée à tort comme suspecte dans une enquête pour fraude bancaire dans le Dakota du Nord, à plus de 1 200 miles de chez elle.
Cette affaire relance les interrogations sur les risques liés à une dépendance excessive à l’intelligence artificielle dans les enquêtes criminelles.
« Je ne suis jamais allée dans le Dakota du Nord, je ne connais personne du Dakota du Nord », la victime a déclaré, selon The Guardian.
La reconnaissance faciale conduit à une arrestation injustifiée
L’incident a intensifié les interrogations sur l’utilisation des outils de reconnaissance faciale alimentés par l’IA dans les enquêtes criminelles, notamment lorsque les correspondances algorithmiques deviennent le principal fondement de l’identification d’un suspect.
La grand-mère a été arrêtée à son domicile, dans le centre-nord du Tennessee, après que des enquêteurs de Fargo, dans le Dakota du Nord, ont utilisé un logiciel de reconnaissance faciale pour la relier à une enquête en cours sur une fraude bancaire.
D’après les dossiers de police cités par WDAY News, les détectives de Fargo examinaient des images de vidéosurveillance liées à une série de fraudes bancaires commises en avril et mai 2025.
Les images auraient montré une femme utilisant une fausse carte d’identité de l’armée américaine pour retirer des dizaines de milliers de dollars auprès d’établissements financiers.
Les enquêteurs auraient analysé les images de vidéosurveillance avec un logiciel de reconnaissance faciale afin de tenter d’identifier la suspecte. Le système a désigné la femme comme une correspondance potentielle.
Les détectives ont ensuite conclu qu’elle ressemblait à la personne visible sur les images en se fondant sur ses traits du visage, sa corpulence et sa coiffure, selon des documents judiciaires.
Malgré son absence de liens avec cet État, les autorités ont émis un mandat d’arrêt contre elle.
En juillet 2025, les U.S. Marshals sont arrivés à son domicile du Tennessee alors qu’elle gardait des enfants et l’ont placée en détention sous la menace d’une arme.
La grand-mère a été incarcérée dans une prison de comté locale en tant que fugitive recherchée dans le Dakota du Nord pour des chefs d’accusation liés à l’usurpation d’identité et à la fraude.
La grand-mère est restée incarcérée dans le Tennessee pendant près de quatre mois sans possibilité de libération sous caution, dans l’attente de son extradition.
Les autorités ne l’ont transférée dans le Dakota du Nord que fin octobre 2025 — 108 jours après son arrestation —, lorsqu’elle a enfin comparu devant un tribunal de Fargo pour répondre aux accusations.
À ce stade, le dossier à son encontre reposait largement sur l’identification par reconnaissance faciale et sur l’interprétation, par les enquêteurs, des ressemblances entre Lipps et la suspecte captée par les images de vidéosurveillance.
Elle a finalement été libérée après avoir prouvé qu’elle ne se trouvait pas dans le Dakota du Nord au moment des faits.
Réduire les risques liés aux systèmes d’identification par IA
Alors que les forces de l’ordre adoptent de plus en plus la reconnaissance faciale et d’autres outils d’identification assistés par l’IA, garantir une utilisation responsable est devenu une priorité croissante.
Si ces systèmes peuvent contribuer à accélérer les enquêtes, ils peuvent également introduire des risques lorsque leurs résultats sont considérés comme des preuves définitives sans vérification adéquate.
Les équipes chargées de la sécurité et des enquêtes devraient mettre en place des garde-fous garantissant que les correspondances générées par l’IA sont examinées attentivement et étayées par des éléments de preuve supplémentaires.
- Exiger une vérification humaine et des éléments corroborants avant toute mesure coercitive fondée sur des correspondances de reconnaissance faciale.
- Considérer les correspondances générées par l’IA comme des pistes d’enquête plutôt que comme des motifs raisonnables de croire et exiger un examen indépendant des correspondances potentielles par un analyste.
- Examiner les scores de confiance des correspondances et valider les résultats à l’aide d’autres indicateurs biométriques.
- Tenir des journaux d’audit détaillés et des procédures de supervision documentant la manière dont les systèmes de reconnaissance faciale sont utilisés pendant les enquêtes.
- Effectuer régulièrement des tests de précision et des évaluations des biais afin d’évaluer les performances du système auprès de populations diverses.
- Former les enquêteurs aux limites, aux taux d’erreur et à l’utilisation appropriée des outils d’identification assistée par l’IA.
- Tester les processus d’intervention en cas d’incident et les processus d’examen des enquêtes afin de détecter, d’examiner et de corriger rapidement les erreurs potentielles d’identification.
Ces mesures peuvent aider les organisations à réduire le risque d’erreur d’identification tout en renforçant la supervision et la responsabilité dans les enquêtes assistées par l’IA.
Les faux positifs de l’IA suscitent des inquiétudes en matière de supervision
L’incident impliquant la victime n’est pas la première fois que des systèmes d’IA produisent de faux positifs aux conséquences bien réelles.
La technologie de reconnaissance faciale a déjà été associée à de multiples incidents dans le monde, suscitant des contestations judiciaires et des appels à une supervision accrue.
Dans un cas, un système de détection automatisé a pris par erreur un paquet de Doritos pour une arme à feu, illustrant la manière dont les systèmes de vision par ordinateur peuvent mal interpréter des objets du quotidien lorsqu’ils fonctionnent en dehors d’environnements contrôlés.
L’adoption rapide de l’IA dans les forces de l’ordre, la sécurité publique et les systèmes de surveillance soulève des questions complexes en matière de précision, de responsabilité, de sécurité et de respect de la procédure régulière.
Les critiques avertissent qu’à mesure que les gouvernements et les organisations étendent l’utilisation des technologies d’enquête alimentées par l’IA, une confiance excessive dans les correspondances algorithmiques ou les alertes automatisées, sans validation adéquate, peut entraîner de graves erreurs et ne devrait jamais remplacer le jugement humain.
Ces préoccupations croissantes en matière de précision, de supervision et de responsabilité suscitent une attention accrue envers des cadres de gouvernance de l’IA conçus pour encadrer le déploiement responsable de ces technologies.