EU-KI-Regeln: Echtzeit-Gesichtserkennung soll weitgehend verboten werden

Die EU-Kommission will manipulative KI-Systeme und Social Scoring untersagen. Auch die biometrische Echtzeit-Fernidentifikation ist verpönt – mit Ausnahmen.

Lesezeit: 6 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 32 Beiträge
Schild "Warning! Security Cameras in Operation 24/7"

Symbolbild

(Bild: Daniel AJ Sokolov)

Von
  • Stefan Krempl
Inhaltsverzeichnis

Das "globale Zentrum für vertrauenswürdige Künstliche Intelligenz" (KI) soll die Europäische Union werden. Ein Verordnungsentwurf der EU-Kommission sieht ein abgestuftes Pyramidenkonzept für algorithmische Entscheidungssysteme mit Verhaltensregeln, Mindeststandards und Verboten vor. Dabei gilt: je höher die Gefahren, desto strenger die Regeln.

Besonders umstritten war im Vorfeld der Ansatz rund um biometrische Massenüberwachung im öffentlichen Raum. Ein vorige Woche durchgesickerter Entwurf sah zwar ein prinzipielles Verbot, aber auch breite Ausnahmen für den Einsatz der Technik durch Sicherheitsbehörden vor. Dies führte zu Protesten von EU-Abgeordneten und Wissenschaftlern. Auch tausende Unterzeichner der Petition "Reclaim Your Face" verlangen ein generelles Veto.

In dem am Mittwoch präsentierten Verordnungsentwurf differenziert die Kommission stärker. Sie schlägt einen grundsätzlichen Bann "biometrischer Echtzeit-Fernidentifizierung im öffentlichen Raum" vor. Ein solcher bezöge sich etwa auf Videoüberwachung mit automatisierter Gesichtserkennung, wie ihn die Bundespolizei am Berliner Bahnhof Südkreuz getestet hat.

Lesen Sie auch

Diese Technik "stellt ein besonderes Risiko für die Wahrung der Grundrechte dar, insbesondere hinsichtlich der Würde des Menschen, der Achtung des Privat- und Familienlebens, des Schutzes personenbezogener Daten und der Nichtdiskriminierung", unterstreicht die Kommission. Biometrische Echtzeit-Identifizierung könne ein Gefühl der "ständigen Überwachung" hervorrufen und Bürger etwa davon abbringen, ihr Recht auf Versammlungsfreiheit auszuüben. Trotzdem sieht die Behörde Ausnahmen für die Strafverfolgung vor, die "eng abgesteckt", begrenzt und strikt definiert seien.

Als Beispiele nennt die Kommission die gezielte Suche nach bestimmten potenziellen Verbrechensopfern oder vermissten Kindern, die Prävention eines unmittelbar drohenden Terroranschlags oder das Erkennen und Identifizieren von Personen, die "schwere Straftaten" begangen haben. Der entsprechende Deliktekatalog soll an den Europäischen Haftbefehl geknüpft werden, der 32 Straftaten inklusive Computerkriminalität und Rassismus umfasst – allerdings nur bei Verbrechen, auf die im jeweiligen Mitgliedsstaat eine maximale Haftstrafe von mindestens drei Jahren steht.

"Es gibt keinen Platz für Massenüberwachung in unserer Gesellschaft", betonte die für Digitales zuständige Vizepräsidentin der Kommission, Margrethe Vestager. Sollte ein EU-Land von den Ausnahmen Gebrauch machen wollen, müsse es zunächst eine entsprechende gesetzliche Grundlage schaffen und im Anschluss die Anwendung von einer geeigneten Justizbehörde überwachen lassen. Zudem seien die Vorgaben aus der Datenschutz-Grundverordnung (DSGVO) zu beachten. Darin gelten biometrische Körpermerkmale als besonders sensible Informationen.