2020 war ein entscheidendes – und widersprüchliches – Jahr für Gesichtserkennung

Massiv setzen US-Polizeibehörden bereits Technologie zur Gesichtserkennung ein. Im vergangenen Jahr bekamen sie viel Gegenwind, aber der Kampf ist nicht vorbei.

Lesezeit: 5 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 2 Beiträge

(Bild: Photo by Rishabh Varshney on Unsplash)

Von
  • Tate Ryan-Mosley

Im Januar 2020 kam es in den USA zum ersten bestätigten Fall einer falschen Festnahme aufgrund von Technologie zur Gesichtserkennung. Der dunkelhäutige Robert Williams wurde in seiner Einfahrt am Rand von Detroit festgenommen, während seine Ehefrau und Tochter zusahen. Die Nacht musste er im Gefängnis verbringen. Am nächsten Tag zeigte ein Ermittler Williams das Foto eines anderen Schwarzen, der beim Stehlen von Uhren in einer Boutique gefilmt worden war.

"Sind Sie das?", fragte der Polizist.

"Nein, das bin ich nicht", antwortete Williams.

Er bekam ein weiteres Fotos gezeigt: "Und das sind Sie dann wahrscheinlich auch nicht?"

Williams hielt das Foto neben sein Gesicht. Eindeutig war er es nicht. "Nein", sagte er, "ich hoffe, sie glauben nicht, dass alle Schwarzen gleich aussehen."

"Laut dem Computer sind Sie es", antwortete der Polizist.

Das Neue an der Festnahme von Williams war nicht, dass es dazu kam, und auch nicht, dass sie unberechtigt erfolgte. Dass Gesichtserkennung bei Menschen mit dunklerer Hautfarbe weniger genau funktioniert, war schon vorher bekannt. Zudem wird die Technologie in den USA von der Polizei breit eingesetzt, auch wenn es keine genauen Daten dazu gibt.

Ungewöhnlich an der Geschichte ist eher, dass die Polizei einräumte, die Festnahme aufgrund von Gesichtserkennung vorgenommen zu haben. Bekannt wurde der Fall Anfang August. Nachdem es den Sommer über bereits Demonstrationen wegen des Umgangs der Polizei mit Minderheiten gegeben hatte, folgte ein landesweiter Aufschrei. Wenige Wochen später kam ein weiterer Fall ans Tageslicht, bei dem ein Schwarzer in Detroit auf der Grundlage von Gesichtserkennung festgenommen wurde.

Schon vorher hatten Aktivisten in der Stadt das Ende des öffentlich-privaten Project Greenlight verlangt, in dem Technologie für Gesichtserkennung die Kriminalitätszahlen verringern soll. Doch dieses Projekt läuft nicht nur weiter: Ende September beschloss der Stadtrat, den Vertrag zwischen dem Detroit Police Department und seinem Technologie-Lieferanten DataWorks Plus zu verlängern.

Die Ereignisse in Detroit zeigen exemplarisch unser aktuell kompliziertes Verhältnis zu Gesichtserkennung. Sie wird zunehmend eingesetzt und ist in manchen Bereichen schon unverzichtbar geworden. In anderen wird die Technologie jetzt neu eingeführt und weckt große Hoffnungen für die Zukunft. Viele Technologie-Anbieter erwarten, dass sich die Öffentlichkeit an die Nutzung solcher biometrischer Verfahren gewöhnt und als Teil ihres Alltags akzeptiert. Apple zum Beispiel setzt stark darauf. Inzwischen nutzen jeden Tag Millionen Menschen sein System FaceID, um ihre iPhones zu entsperren.

Doch die Öffentlichkeit wird sich auch zunehmend der Gefahren solcher Technologien bewusst, vor allem bei der Strafverfolgung. Über die Probleme wird intensiver diskutiert als je zuvor, und 2020 gab es mehr neue Gesetze zu Gesichtserkennung als in allen vorigen Jahren zusammen. 2019 wurden Verbote oder Moratorien in sechs Städten der USA verhängt, 2020 waren es ebenso viele.

Diese Gesetze mit dem Wachstum der Branche zu vereinen, wird nicht einfach. Aber das Geschehen in 2020 lieferte einige Hinweise, wie solche Kompromisse im neuen Jahr gefunden werden könnten.

Im Januar 2020 veröffentlichte die New York Times eine Untersuchung von ClearviewAI, einem kleinen Anbieter von Technologie zur Gesichtserkennung, der seinen Algorithmus auf Milliarden Bilder aus sozialen Medien losließ. Damit nutzen Polizeibehörden, die mit dem Clearview-System arbeiteten, im Grunde die Facebook-Fotos von Personen, um sie mit oft unscharfen oder unvollständigen Polizei-Aufnahmen abzugleichen.

Das Unternehmen wurde massiv kritisiert. Weitere Recherchen von Buzzfeed zeigten, dass 2200 Strafverfolgungsbehörden in den USA das System nutzten, ebenso wie die Einwanderungsbehörde, das Justizministerium sowie die Einzelhändler Macy's und Walmart.

"Wegen der Clearview-Geschichte sind viele Leute wirklich ausgeflippt – und zwar zu Recht", sagt Jameson Spivack vom Center of Privacy and Technology der Georgetown University. Viele Bedenken beziehen sich auf die Tatsache, dass die Branche sehr fragmentiert ist. Zwar mischen auch große Unternehmen wie IBM und Microsoft kräftig mit, aber viele kleine Anbieter wie ClearviewAI oder NtechLab agieren ohne viel öffentliche Kontrolle. Außerdem zeigten die Berichte, wie wenig die Bevölkerung über den breiten Einsatz der Technologie beim Staat weiß.

Durch die Berichterstattung nahm das öffentliche Bewusstsein für die Probleme zu. Als "größten Einzel-Katalysator" für einschränkende Gesetze in den USA bezeichnet Spivack aber die "Black Lives Matter"-Demonstrationen. Plötzlich hätten Amerikaner begonnen, Polizeiarbeit und ihre Werkzeuge sowie die Kultur dahinter in Frage zu stellen.

Schon 2018 entdeckten und dokumentierten die Forscher Joy Buolamwini und Timnit Gebru ethnische Verzerrungen bei Produkten zur Gesichtserkennung. Mehrere Städte und Bundesstaaten verabschiedeten daraufhin Gesetze, die der Polizei verbieten, die Technologie zusammen mit Körper-Kameras einzusetzen.

Doch während der größten Protestbewegung in der amerikanischen Geschichte hatten Aktivisten die Sorge, Überwachungstechnologie könne zur Vergeltung eingesetzt werden. Inzwischen wurde für New York, Miami und Washington D.C. bestätigt, dass Polizeibehörden tatsächlich Demonstranten mit Gesichtserkennung beobachteten.

Am 1. Juni setzten Beamte in Washington Pfeffer-Geschosse und Tränengas ein, um Demonstranten vom Lafayette Square zu vertreiben, weil Präsident Trump einen Foto-Termin an einer nahegelegenen Kirche wahrnehmen wollte. In dem Chaos schlug einer der Teilnehmer einen Polizisten. Tage später fanden Kollegen des Beamten Fotos des Angreifers auf Twitter. Sie luden es in ihr Erkennungssystem, bekamen einen Treffer und nahmen den Mann fest. Nach einem ähnlichen Abgleich wurde in Miami eine Frau festgenommen, der vorgeworfen wird, Steine auf die Polizei geworfen zu haben.

Im Sommer und Herbst arbeiteten Aktivisten an der Basis und Gruppen für Polizei-Reformen eng zusammen, hat Spivack beobachtet, angeführt von anderen Organisationen wie der American Civil Liberties Union (ACLU). Im Bundesstaat Oregon programmierte ein Demonstrant sogar ein System zur Gesichtserkennung anonymer Polizisten.

Im Verlauf des Jahres wurden Regeln zur Begrenzung der Einsatzes der Technologie auf kommunaler, bundesstaatlicher und sogar nationaler Ebene vorgeschlagen. Im Juni brachten Demokraten einen Gesetzesentwurf ein, der Gesichtserkennungssysteme für US-Strafverfolgungsbehörden verbieten sollte. In Vermont erließ der Gouverneur eine Verordnung, mit der er den staatlichen Einsatz in seinem Bundesstaat untersagte. In Massachusetts wurde die Technologie im Sommer 2020 in den Städten Cambridge und Boston verboten und im Dezember im gesamten Bundesstaat bei Behörden einschließlich Strafverfolgung. Gouverneur Charlie Baker weigerte sich allerdings, das entsprechende Gesetz zu unterzeichnen.

In Kalifornien begann im Mai eine Diskussion über Einschränkungen; die Städte San Francisco und Oakland haben Gesichtserkennung bei der Strafverfolgung schon verboten. Im Juli verhängte auch New York City ein Moratorium für die Technologie in Schulen bis 2022. In Portland im Bundesstaat Oregon wurde ihr Einsatz durch jegliche staatliche oder private Gruppen untersagt.

Doch diese Entwicklung vollzieht sich nicht überall, wie unter anderem die Verlängerung des Vertrags in Detroit zeigt. Laut Spivack könnte politischer Einfluss auf der Grundlage von Ethnien Auswirkungen auf den Kampf um polizeiliche Überwachung haben. Nicht alle, aber die meisten Städte, die mit als erste Verbote eingeführt hätten, seien "wohlhabender, weißer und sehr progressiv" gewesen, sagt er. Dadurch hätten sie möglicherweise mehr politisches Kapital und Möglichkeiten, auf die Gesetzgeber einzuwirken als stärker marginalisierte Gemeinschaften.

Doch nicht nur auf der Ebene von Gesetzen tut sich etwas. Anfang Juni gab IBM bekannt, den Verkauf sämtlicher Produkte für Gesichtserkennung gestoppt zu haben. Amazon und Microsoft schlossen sich an, indem sie ihre Verträge mit Polizeibehörden aussetzten. Und im Juli reichte die ACLU eine Klage gegen ClearviewAI mit dem Vorwurf ein, das Unternehmen habe den Illinois Biometric Information Privacy Act missachtet – die erste grundlegende juristische Herausforderung für das Unternehmen.

Microsoft, Amazon, IBM und Verbände wie die Security Industry Association bereiten sich auf einen Kampf vor. Von 2018 auf 2019 steigerten sie drastisch die Höhe ihrer Lobby-Ausgaben für Gesichtserkennung; für 2020 wird eine noch stärkere Zunahme erwartet. Viele Anbieter sprechen sich für mehr Regulierung aus, aber gegen Verbote. Das Amazon-Moratorium endet in diesem Juni und das von Microsoft hängt von der Verabschiedung eines US-weiten Gesetzes ab.

Die ACLU arbeitet unterdessen weiter an Gesetzesentwürfen, mit denen de Technologie verboten werden soll. Die Organisation werde "vor Gericht, auf der Straße, in Parlamenten, Stadträten und selbst Vorstandsetagen von Unternehmen für unsere Rechte gegen die zunehmenden Gefahren dieser unregulierten Überwachungstechnologie kämpfen", schreibt sie auf ihrer Website.

Auch die Prioritäten der neuen Regierung werden Einfluss auf das regulatorische Umfeld für 2021 und darüber hinaus haben. Die demokratische Kandidaten-Bewerberin Kamala Harris hatte eine Regulierung von Gesichtserkennung in der Strafverfolgung als Teil ihres Programms für Polizei-Reformen vorgestellt. Wenn sich die Regierung Biden jetzt für landesweite Gesetze einsetzt, dürfte das Thema nationale Bedeutung bekommen, sodass weniger Ressourcen für lokalere Kampagnen aufgewendet werden. Wenn nicht, dürfte der Kampf auf der Ebene von Bundesstaaten und Städten weitergehen. (sma)