KI-Verordnung: EU-Staaten für biometrische Überwachung im öffentlichen Raum

Der EU-Rat hat seine Position für die geplanten Regeln für KI abgesteckt. Strafverfolger sollen automatisierte Gesichtserkennung nutzen können.

Lesezeit: 5 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 20 Beiträge
Ai,(artificial,Intelligence),Concept.,Contents,Concept.,Social,Networking,Service.,Streaming

(Bild: metamorworks / Shutterstock.com)

Von
  • Dr. Stefan Krempl
Inhaltsverzeichnis

(This article is also available in English)

Strafverfolger und Grenzschützer sollen Gesichtserkennung und andere Formen der biometrischen Überwachung im öffentlichen Raum in vielen Fällen einsetzen dürfen. Dafür macht sich der EU-Ministerrat in seiner am Dienstag angenommenen Linie zur geplanten Verordnung für Künstliche Intelligenz (KI) stark.

Die "allgemeine Ausrichtung" der Regierungen der EU-Staaten hält zwar am grundsätzlichen Verbot "biometrischer Echtzeit-Fernidentifizierung im öffentlichen Raum" fest, wie es die EU-Kommission vor gut anderthalb Jahren ins Spiel gebracht hatte. Der Rat hat nach eigenen Angaben nun aber klargestellt, "zu welchen Zwecken eine solche Nutzung für Strafverfolgungszwecke unbedingt erforderlich ist und für welche Strafverfolgungsbehörden daher ausnahmsweise die Möglichkeit bestehen sollte, solche Systeme zu nutzen".

Schon im ursprünglichen Vorschlag der Kommission war das eigentliche Verbot von diversen Ausnahmen durchlöchert. So soll laut der Brüsseler Regierungsinstitution automatisierte Gesichtserkennung etwa für die gezielte Suche nach potenziellen Verbrechensopfern oder vermissten Kindern, die Prävention eines unmittelbar drohenden Terroranschlags oder das Erkennen und Identifizieren von Personen ins Spiel zulässig sein, die "schwere Straftaten" begangen haben.

Der EU-Rat will diesen Ausnahmekatalog noch erweitern. Insbesondere sollen Strafverfolgungs-, Grenzkontroll-, Einwanderungs- oder Asylbehörden im Einklang mit dem EU-Recht oder nationalen Gesetzen einschlägige Systeme nutzen dürfen, um eine Person auch gegen ihren Willen zu erkennen, "die sich bei einer Identitätskontrolle entweder weigert, identifiziert zu werden, oder die nicht in der Lage ist, ihre Identität anzugeben oder nachzuweisen". Zudem fallen laut der Position der Mitgliedsstaaten Gefängnisse und Grenzkontrollbereiche nicht unter die Definition öffentlicher Räume. Auch dort wäre eine biometrische Echtzeit-Fernidentifizierung durch Beamte so erlaubt.

Bei manipulierten Bild-, Audio- oder Videoinhalten wie Deepfakes forderte die Kommission eine entsprechende Kennzeichnung. Dies soll dem Rat zufolge aber nicht gelten, "wenn die Verwendung gesetzlich zur Aufdeckung, Verhütung, Untersuchung und Verfolgung von Straftaten zugelassen ist oder wenn der Inhalt Teil eines offensichtlich kreativen, satirischen, künstlerischen oder fiktionalen Werks oder Programms ist".

Ferner setzen sich die EU-Länder dafür ein, dass die Bereiche der nationalen Sicherheit und der Verteidigung sowie allgemein militärische Zwecke vom Anwendungsbereich des vorgesehenen KI-Gesetzes ausgenommen werden. Dies soll auch für einschlägige Anwendungen und ihre Ergebnisse gelten, die ausschließlich zu Forschungs- und Entwicklungszwecken verwendet werden.

Um sicherzustellen, dass die Definition eines KI-Systems hinreichend klare Kriterien für die Abgrenzung zu einfacheren Softwaresystemen liefert, grenzt der Text des Rates die Definition auf solche Techniken ein, die mithilfe von maschinellem Lernen sowie "logik- und wissensbasierten Ansätzen" entwickelt wurden.

Der Vorschlag folgt generell einem risikobasierten Ansatz. Ziel ist es, einen einheitlichen, horizontalen Rechtsrahmen für KI festzulegen. Was hochriskante Praktiken betrifft, so wollen die Mitgliedsstaaten das Verbot des Einsatzes von Künstlicher Intelligenz für Social Scoring auf private Akteure ausdehnen. Zudem soll die Bestimmung, die den Einsatz von KI-Systemen untersagt, die Schwächen einer bestimmten Personengruppe ausnutzen, auch für Menschen gelten, die aufgrund ihrer sozialen oder wirtschaftlichen Situation gefährdet sind.

Gewährleisten will der Rat zudem, dass KI-Systeme mit vielen möglichen Einsatzwecken wie Bild- oder Spracherkennung ("General Purpose AI") erfasst werden, insbesondere wenn sie in eine Hochrisiko-Anwendung integriert werden. Die Kommission soll dazu einen delegierten Rechtsakt erstellen, aber erst eine Konsultation und eine Folgenabschätzung durchführen. Dabei seien die "spezifischen Merkmale dieser Systeme und der zugehörigen Wertschöpfungskette, der technischen Machbarkeit und der Markt- und Technologieentwicklungen" zu berücksichtigen.

Die EU-Länder wollen auch, dass Innovationen im Bereich von KI-Systemen stärker gefördert werden. So sollen nationale Stellen etwa einfacher sogenannte "regulatorische Sandkästen" einrichten können, in denen Beteiligte Techniken weitgehend frei ausprobieren können. Bei drohenden Sanktionen sind verhältnismäßigere Obergrenzen für Bußgelder für kleinere und mittlere Unternehmen sowie Start-ups vorgesehen. Mit dieser Linie kann der Rat nun in Verhandlungen mit dem EU-Parlament eintreten, sobald dieses seinen eigenen Standpunkt festgelegt hat.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmmung wird hier eine externe Umfrage (Opinary GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Von den Rufen nach einem generell Bann biometrischer Massenüberwachung etwa aus der Zivilgesellschaft, der Forschung, der Bundesregierung oder den Datenschutzaufsichtsbehörden ließ sich die Mehrheit der Mitgliedsstaaten nicht beeindrucken. Anfang November hatten über 20 zivilgesellschaftliche Organisationen wie AlgorithmWatch, Amnesty, Chaos Computer Club und Digitalcourage die hiesige Exekutive noch aufgefordert, sich auf ihr Versprechen aus dem Koalitionsvertrag zu besinnen.

Patrick Breyer, Abgeordneter der Piratenpartei im EU-Parlament, warnte davor, dass der Text der biometrischen Massenüberwachung im öffentlichen Raum Tür und Tor öffne: Der Vorschlag "würde den permanenten und flächendeckenden Einsatz der Gesichtsüberwachung rechtfertigen, um nach Tausenden von 'Opfern', 'Bedrohungen' und Verdächtigen 'schwerer Straftaten' zu suchen, die immer zur Fahndung ausgeschrieben sind". Der IT-Verband Bitkom sieht in dem Ratspapier dagegen entscheidende Verbesserungen gegenüber dem Aufschlag der Kommission. Es besteht aber weiter die Gefahr, "dass durch eine zu starke Fokussierung auf Risiken die KI-Entwicklung in Europa ausgebremst wird".

(olb)