Gesichtserkennung und Risikobewertung: 10 Tage im Gefängnis wegen Algorithmen

In den USA wurde ein mutmaßlich Unschuldiger wegen eines Algorithmus nicht nur inhaftiert. Eine Software verhinderte auch seine Freiheit auf Kaution.

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 295 Beiträge

(Bild: Scharfsinn/Shutterstock.com)

Von
  • Martin Holland

In den USA ist der dritte Fall einer wohl falschen Festnahme auf Basis von Gesichtserkennungssoftware bekannt geworden, ein zweiter Algorithmus sorgte diesmal dann noch dafür, dass der Betroffene zehn Tage im Gefängnis bleiben musste. Über den Fall des 33-Jährigen berichtet die New York Times, er hat demnach inzwischen Klage eingereicht. Sein Fall dürfte Kritiker bestätigen, die sich dagegen wenden, dass die Polizei und Justiz in den USA immer stärker auf Algorithmen zurückgreift, obwohl deren Unzulänglichkeiten bekannt sind. Dass auch die angeblich neutrale Technik rassistisch sein kann, war in diesem Jahr immer breiter diskutiert worden.

Der nun bekanntgewordene Fall ereignete sich demnach im Februar 2019: Nachdem zwei Polizisten im US-Bundesstaat New Jersey ein mutmaßlicher – afroamerikanischer – Ladendieb entkommen war, hatten sie das Foto aus seinem gefälschten Führerschein an Ermittler mit Zugang zu einer Gesichtserkennungssoftware geschickt. Die hatte daraufhin den unbeteiligten 33-jährigen Afroamerikaner als Treffer ausgegeben. Der habe zwar inzwischen nachweisen können, dass er zum Zeitpunkt der Flucht des Gesuchten anderswo eine Überweisung getätigt hatte, damals musste er aber zehn Tage hinter Gitter. Ein Algorithmus zur Bestimmung der Kaution hatte das Risiko als zu hoch eingestuft, um ihn auf freien Fuß zu setzen. Er war also wegen zweier Algorithmen im Gefängnis.

Die Kritik an rassistischen Algorithmen ist nicht neu. 2016 hatten US-Journalisten berichtet, dass Technik zur automatischen Ermittlung des Rückfallrisikos von Straftätern systematisch Afroamerikaner benachteiligt. In dem Fall des nun verhafteten 33-Jährigen lagen der Entscheidung wohl zwei frühere Verhaftungen wegen Drogenbesitzes zugrunde. Dem Bericht zufolge habe er deswegen nun sogar überlegt, sich trotz seiner Unschuld als schuldig zu bekennen, um einer automatischen höheren Strafe für das dritte Vergehen zu entgehen. Nur der Beweis, dass er zum Zeitpunkt der Tat mehr als 40 Kilometer entfernt war, habe das verhindert.

Die Debatte über Benachteiligung durch Algorithmen dürfte durch den neuen Fall weiter an Fahrt gewinnen: Alle drei Personen, deren fälschliche Verhaftung auf Basis von Gesichtserkennung bekanntgeworden sind, waren der New York Times zufolge Schwarze.

(mho)