Klage in Amerika: Gesichtserkennung wird zur Bürgerrechtsfrage

Robert Williams, der wegen eines fehlerhaften KI-Fotoabgleichs zu Unrecht festgenommen wurde, fordert ein Verbot der Technologie.

Lesezeit: 4 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 22 Beiträge

(Bild: Lianhao Qu / Unsplash)

Von
  • Jennifer Strong

Am 9. Januar 2020 fuhr die Detroiter Polizei in den Vorort Farmington Hill und verhaftete Robert Williams in seiner Einfahrt, während seine Frau und jungen Töchter dabei zuschauen mussten. Die Beamten beschuldigten Williams, einem Afroamerikaner, Uhren des Luxusgeschäfts Shinola gestohlen zu haben. Die Nacht verbrachte er im Gefängnis.

Während der Befragung zeigte ein Beamter Williams das Bild eines Verdächtigen. Wie er später der Amerikanischen Bürgerrechtsunion (ACLU) sagte, bestritt er die Anschuldigung. „Das bin nicht ich“, sagte er dem Polizeibeamten. „Ich hoffe, Sie glauben nicht, dass alle Schwarzen gleich aussehen.“ Darauf habe der Beamte geantwortet: „Der Computer sagt, dass Sie es sind.“

Williams' rechtswidrige Verhaftung beruhte auf einem falschen Fotoabgleich durch das Gesichtserkennungssystem der Detroit Police Department. In zwei ähnlichen Fällen unrechtmäßiger Verhaftungen haben die Betroffenen rechtliche Schritte eingeleitet. Williams geht sogar noch einen Schritt weiter und verklagt nicht nur die Polizei wegen seiner unrechtmäßigen Verhaftung, sondern versucht darüber hinaus auch, die Technologie ganz verbieten zu lassen.

Am 13. April reichten die ACLU und die Civil Rights Litigation Initiative der University of Michigan Law School im Namen von Williams eine Klage ein, derzufolge die Festnahme seine im vierten Zusatzartikels der US-Verfassung definierten Rechte verletzt und auch gegen das Bürgerrechtsgesetz von Michigan verstoßen habe. Die Klage fordert eine Entschädigung, mehr Transparenz über die Verwendung der Gesichtserkennung und ein Ende der direkten oder indirekten Verwendung der Gesichtserkennungstechnologie durch die Detroiter Polizei (Detroit Police Department, DPD).

Die Unterlagen legen den Fall folgendermaßen dar. Im März 2019 schickten die DPD ein grobkörniges Foto eines schwarzen Mannes mit roter Kappe aus Shinolas Überwachungsvideo durch das Gesichtserkennungssystem von DataWorks Plus. Das System meldete eine Übereinstimmung mit einem alten Führerscheinfoto von Williams. Dieses nahmen die Ermittlungsbeamten in ihre Foto-Gegenüberstellung auf. Ein Shinola-Sicherheitsdienstleister, der beim Diebstahl gar nicht anwesend war, identifizierte Williams als Dieb. Die Beamten sicherten sich einen Haftbefehl, der mehrere Genehmigungen von der Abteilungsleitung erfordert, und nahmen Williams fest.

Williams argumentiert nun, dass seine falsche Festnahme direkt auf das Gesichtserkennungssystem zurückzuführen sei und „dieser Fall einer rechtswidrigen Festnahme und Inhaftierung den schwerwiegenden Schaden veranschaulicht, der durch den Missbrauch der – und das Vertrauen in die – Gesichtserkennungstechnologie verursacht wird“.

Drei der vier Klagepunkte konzentrieren sich auf das Fehlen eines hinreichenden Verdachts für die Festnahme. Der Vierte bezieht sich auf die rassenbezogenen Unterschiede bei den Auswirkungen der Gesichtserkennung. „Durch den Einsatz von Technologien, von denen empirisch nachgewiesen wurde, dass sie schwarze Menschen mit weitaus höheren Raten als andere Personengruppen falsch identifizieren“, habe die „DPD Mr. Williams die uneingeschränkte und gleichberechtigte Nutzung der Dienste, Privilegien und Vorteile des Detroit Police Department aufgrund seiner Rasse oder Hautfarbe vorenthalten.“

Die Schwierigkeiten der Gesichtserkennungstechnologie bei der Identifizierung von Personen mit dunklerer Hautfarbe sind gut dokumentiert. Nach der Ermordung von George Floyd in Minneapolis 2020 kündigten mehrere US-Städte und Bundesstaaten Verbote und Moratorien für den polizeilichen Einsatz von Gesichtserkennung an. Aber viele andere, einschließlich Detroit, nutzten es trotz wachsender Bedenken weiter. Williams‘ ACLU-Anwalt Phil Mayor betonte vergangenes Jahr, dass Rassismusprobleme innerhalb der US-Strafverfolgungsbehörden die Verwendung der Gesichtserkennung noch besorgniserregender machten. „Wir haben ein Strafrechtssystem, das extrem schnell Anklage erhebt, die Rechte der Menschen aber nur sehr langsam schützt, insbesondere wenn es sich um farbige Menschen handelt“, sagte Mayor.

Eric Williams, ein leitender Anwalt der Economic Equity Practice in Detroit zufolge weisen Kameras viele technologische Einschränkungen auf. So sind sie etwa auf bestimmte Farbbereiche zur Hauttonerkennung geeicht und können dunklere Haut oft schlicht nicht verarbeiten. „Ich denke, jeder Schwarze im Land hat schon mal Erfahrung gemacht, auf einem Foto zu sein, und das Bild wird entweder viel heller oder viel dunkler“, sagt Williams, der Mitglied der ACLU von Michigans Anwaltsausschuss ist und nicht an Robert Williams‘ Fall arbeitet. „Die Beleuchtung ist aber einer der Hauptfaktoren für die Bildqualität. Die Tatsache, dass sich die Strafverfolgung bis zu einem gewissen Grad auf wirklich unzureichende Bilder stützt, ist problematisch.“

Es ist nicht das erste Mal, dass Algorithmen und Technologien für künstliche Intelligenz (KI) in Frage gestellt werden, weil sie in Bezug auf Rasse voreingenommen sind. Facebook etwa wurde einer massiven Bürgerrechtsprüfung unterzogen, weil seine gezielten Werbealgorithmen Anzeigen auf der Grundlage von Rasse, Geschlecht und Religion schalten. In einer anderen Sammelklage prangerten schwarzen Entwicklern an, dass YouTube seine KI-Systeme Nutzerprofile erstellt und Inhalte für sie auf der Basis von Rasse zensiert oder diskriminiert. YouTube wurde darüber hinaus auch von LGBTQ+-Personen aus der Creator-Szene verklagt, denen zufolge Content-Moderationssysteme die Wörter „schwul“ und „lesbisch“ markierten.

Experten zufolge war es nur eine Frage der Zeit, bis der Einsatz voreingenommener Technologien durch eine große Institution wie die Polizei vor Gericht landet. „Eine Studie nach der anderen zeigt, dass diese gefährliche Technologie bei Farbigen eine weitaus höhere Fehlalarmrate aufweist als bei Weißen. Daher verstößt der Einsatz dieser Technologie durch die Regierung gegen Gesetze, die es der Regierung verbieten, Praktiken anzuwenden, die unterschiedliche Auswirkungen haben“, sagt Adam Schwartz, leitender Anwalt der Electronic Frontier Foundation.

Williams-Anwalt Mayor hat durchaus mit einem harten Kampf gerechnet. Schon letztes Jahr erwartete er nach eigenem Bekunden, dass Detroit Police Department weiterhin betonen würde, was für ein großartiges „Ermittlungsinstrument“ die Gesichtserkennung sei. „Der Fall Williams beweist, dass dies nicht der Fall ist“, sagte er. „Tatsächlich kann es Menschen schaden, wenn Sie es als Ermittlungsinstrument verwenden.“

Detroit versuche, „eine Lösung zu finden“, ließ Anwalt Lawrence Garcia, der die Stadt vertritt, verlautbaren. Die Gesichtserkennung sei allerdings nicht für die Situation verantwortlich. „Wie der Polizeichef erklärt hat, war die Verhaftung das Ergebnis mangelhafter Ermittlungen und nicht von fehlerhafter Technologie“, sagte Garcia. „Die Detroit Police Department hat eine interne Untersuchung durchgeführt und Anklage wegen Fehlverhaltens gegenüber mehreren Mitarbeitern erhoben. Die DPD hat neue Protokolle eingeführt, um das Auftreten ähnlicher Probleme zu verhindern.“

Allerdings kommt die Williams-Klage zu einem empfindlichen Zeitpunkt in den USA. Sie wurde am selben Tag eingereicht, als die Verteidiger im Prozess gegen den wegen Mordes an George Floyd angeklagten Polizisten Derek Chauvin ihre Befragungen begannen. Es war zudem der dritte Tag der Proteste nach der Erschießung von Daunte Wright im nahe gelegenen Brooklyn Center in Minnesota. Wright, gegen den ein Haftbefehl vorlag, wurde bei einer Verkehrskontrolle getötet, als Polizistin Kim Potter nach eigenen Angaben statt ihres Tasers versehentlich ihre Dienstwaffe zog und abdrückte.

ACLU-Anwalt Eric Williams zufolge ist es wichtig, die Gesichtserkennung in diesem breiteren Kontext von Polizeifehlern zu verstehen: „Als das DPD sich entschied, die Technologie zu kaufen, war bekannt, dass die Gesichtserkennungstechnologie dazu neigte, dunkelhäutige Menschen falsch zu identifizieren, bevor Mr. Williams in Gewahrsam genommen wurde, oder? Trotzdem haben sie sich in einer Stadt, die zu über 80 Prozent schwarz ist, für diese Technologie entschieden. Sie legen eindeutig weniger Wert auf das Leben, den Lebensunterhalt und die bürgerlichen Freiheiten von Schwarzen als von Weißen. Das passiert in den USA einfach zu häufig.“

(vsz)