Eine Großmutter aus Tennessee saß fast sechs Monate im Gefängnis, nachdem ein Gesichtserkennungssystem sie fälschlicherweise als Verdächtige in einer Untersuchung zu Bankbetrug in North Dakota identifiziert hatte – mehr als 1.200 Meilen von ihrem Zuhause entfernt.
Der Fall rückt die Risiken einer starken Abhängigkeit von künstlicher Intelligenz bei strafrechtlichen Ermittlungen erneut in den Fokus.
„Ich war noch nie in North Dakota, ich kenne niemanden aus North Dakota“, sagte das Opfer laut The Guardian.
Gesichtserkennung führt zu unrechtmäßiger Festnahme
Der Vorfall hat die Prüfung des Einsatzes KI-gestützter Gesichtserkennungstools bei strafrechtlichen Ermittlungen verschärft, insbesondere wenn algorithmische Treffer zur hauptsächlichen Grundlage für die Identifizierung eines Verdächtigen werden.
Die Großmutter wurde in ihrem Zuhause im Norden Tennessees festgenommen, nachdem Ermittler in Fargo, North Dakota, Gesichtserkennungssoftware eingesetzt hatten, um sie mit einer laufenden Untersuchung zu Bankbetrug in Verbindung zu bringen.
Laut von WDAY News zitierten Polizeiberichten sichteten Ermittler aus Fargo Überwachungsaufnahmen im Zusammenhang mit einer Reihe von Bankbetrugsfällen, die sich im April und Mai 2025 ereignet hatten.
Die Aufnahmen zeigten angeblich eine Frau, die mit einem gefälschten Ausweis der U.S. Army Zehntausende Dollar von Finanzinstituten abhob.
Die Ermittler speisten die Überwachungsbilder Berichten zufolge in eine Gesichtserkennungssoftware ein, um die Verdächtige zu identifizieren. Das System meldete die Frau als mögliche Übereinstimmung.
Den Gerichtsunterlagen zufolge kamen die Ermittler anschließend zu dem Schluss, dass sie aufgrund von Gesichtsmerkmalen, Körperbau und Frisur der Person auf den Aufnahmen ähnelte.
Obwohl sie keinerlei Verbindungen zu dem Bundesstaat hatte, erließen die Behörden einen Haftbefehl gegen sie.
Im Juli 2025 trafen U.S. Marshals in ihrem Haus in Tennessee ein, während sie auf Kinder aufpasste, und nahmen sie unter vorgehaltener Waffe fest.
Sie wurde in das örtliche Bezirksgefängnis eingeliefert – als Justizflüchtige, die in North Dakota wegen Vorwürfen im Zusammenhang mit Identitätsdiebstahl und Betrug gesucht wurde.
Die Großmutter blieb in Tennessee fast vier Monate lang ohne Kaution inhaftiert, während sie auf ihre Auslieferung wartete.
Die Behörden brachten sie erst Ende Oktober 2025 nach North Dakota – 108 Tage nach ihrer Festnahme –, woraufhin sie schließlich in einem Gerichtssaal in Fargo erschien, um sich den Vorwürfen zu stellen.
Zu diesem Zeitpunkt stützte sich der Fall gegen sie maßgeblich auf die Identifizierung durch die Gesichtserkennung und die Interpretation von Ähnlichkeiten zwischen Lipps und der auf den Überwachungsaufnahmen festgehaltenen Verdächtigen durch die Ermittler.
Schließlich wurde sie freigelassen, nachdem sie nachgewiesen hatte, dass sie zum Zeitpunkt der Taten nicht in North Dakota gewesen war.
Risiken bei KI-gestützten Identifizierungssystemen mindern
Da Strafverfolgungsbehörden zunehmend Gesichtserkennung und andere KI-gestützte Identifizierungstools einsetzen, wird deren verantwortungsvoller Gebrauch immer wichtiger.
Diese Systeme können Ermittlungen zwar beschleunigen, bergen aber auch Risiken, wenn ihre Ergebnisse ohne angemessene Überprüfung als definitive Beweise behandelt werden.
Sicherheits- und Ermittlungsteams sollten Schutzmaßnahmen einführen, die sicherstellen, dass KI-generierte Treffer sorgfältig geprüft und durch zusätzliche Beweise gestützt werden.
- Eine Überprüfung durch Menschen und zusätzliche Belege verlangen , bevor auf Grundlage von Gesichtserkennungstreffern Maßnahmen der Strafverfolgung ergriffen werden.
- KI-generierte Treffer als Ermittlungsansätze behandeln statt als wahrscheinlichen Grund für eine Festnahme, und eine unabhängige Prüfung potenzieller Treffer durch Analysten verlangen.
- Treffer-Konfidenzwerte prüfen und Ergebnisse validieren , indem zusätzliche Merkmale wie körperliche Eigenschaften oder andere biometrische Indikatoren verwendet werden.
- Detaillierte Prüfprotokolle und Aufsichtsverfahren führen , in denen dokumentiert wird, wie Gesichtserkennungssysteme bei Ermittlungen eingesetzt werden.
- Regelmäßige Genauigkeitstests und Bias-Bewertungen durchführen , um die Systemleistung in unterschiedlichen Bevölkerungsgruppen zu bewerten.
- Ermittler zu den Grenzen schulen, Fehlerquoten und dem angemessenen Einsatz von KI-gestützten Identifizierungstools.
- Testen der Reaktion auf Vorfälle und der Überprüfungsprozesse bei Ermittlungen , um mögliche Fehlidentifizierungen schnell zu erkennen, zu untersuchen und zu korrigieren.
Diese Maßnahmen können Organisationen dabei helfen, das Risiko von Fehlidentifizierungen zu verringern und gleichzeitig Aufsicht und Rechenschaftspflicht bei KI-gestützten Ermittlungen zu verbessern.
Falsch-positive KI-Treffer werfen Fragen zur Aufsicht auf
Der Vorfall mit dem Opfer ist nicht das erste Mal, dass KI-Systeme falsch-positive Ergebnisse mit realen Konsequenzen hervorgebracht haben.
Gesichtserkennungstechnologie wurde weltweit bereits mit mehreren Vorfällen in Verbindung gebracht, was rechtliche Anfechtungen und Forderungen nach einer stärkeren Aufsicht ausgelöst hat.
In einem Fall identifizierte ein automatisiertes Erkennungssystem fälschlicherweise eine Tüte Doritos als Waffe, was verdeutlicht, wie Computer-Vision-Systeme alltägliche Gegenstände unter nicht kontrollierten Bedingungen falsch interpretieren können.
Die rasche Einführung von KI in Strafverfolgung, öffentlicher Sicherheit und Überwachungssystemen wirft komplexe Fragen zu Genauigkeit, Rechenschaftspflicht, Sicherheit und rechtsstaatlichen Verfahrensgrundsätzen auf.
Kritiker warnen, dass eine übermäßige Abhängigkeit von algorithmischen Treffern oder automatisierten Warnungen ohne angemessene Validierung zu gravierenden Fehlern führen kann, wenn Regierungen und Organisationen den Einsatz KI-gestützter Ermittlungstechnologien ausweiten, und dass diese niemals menschliches Urteilsvermögen ersetzen darf.
Diese zunehmenden Bedenken hinsichtlich Genauigkeit, Aufsicht und Rechenschaftspflicht lenken die Aufmerksamkeit verstärkt auf KI-Governance-Rahmenwerke, die den verantwortungsvollen Einsatz dieser Technologien vorgeben