KI-Regeln: EU-Abgeordnete und Forscher fordern Aus für Massenüberwachung

40 Mitglieder des EU-Parlaments drängen die EU-Kommission, in der geplanten KI-Verordnung ein klares Verbot von biometrischer Gesichtserkennung vorzusehen.​

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 24 Beiträge

(Bild: Alexander Kirch / Shutterstock.com)

Von
  • Stefan Krempl

Volksvertreter und Wissenschaftler sehen Korrekturbedarf am geleakten Entwurf der EU-Kommission für eine Verordnung über ein "europäisches Konzept für Künstliche Intelligenz" (KI). 40 EU-Abgeordnete appellieren in einem parteiübergreifenden Brandbrief an die Kommission, ein "klares Verbot biometrischer Massenüberwachung in öffentlichen Räumen vorzuschlagen". Dies wünsche sich die Mehrheit der Bürger.

Stein des Anstoßes: Die Kommission will den Einsatz von KI für unterschiedslose Überwachung nur durch Firmen untersagen. Sicherheitsbehörden sollen solche KI-Techniken weiter verwenden dürfen. Die biometrische Fernidentifizierung von Personen etwa durch automatisierte Gesichtserkennung wird zwar als hochriskant eingestuft, soll aber nach Durchlaufen eines speziellen Genehmigungsverfahrens im Grundsatz möglich sein.

Diese Ausnahmetatbestände müssten gestrichen werden, verlangen die Parlamentarier, zu denen Patrick Breyer (Piratenpartei), Nicola Beer (FDP), Cornelia Ernst (Die Linke), Evelyne Gebhardt (SPD), die Grüne Alexandra Geese, die Liberalen Moritz Körner und Svenja Hahn sowie der Sozialdemokrat Tiemo Wölken gehören. Mit der öffentlichen Sicherheit werde Massenüberwachung ständig gerechtfertigt – gerade hier wäre daher ein Verbot relevant. Gerichte hätten diesen Ansatz immer wieder für nichtig erklärt.

Die automatisierte Erkennung sensibler Merkmale von Menschen wie Geschlecht, Sexualität, Ethnie und Gesundheitszustand "ist nicht akzeptabel und muss ausgeschlossen werden", schreiben die Abgeordneten. Sie "bergen die Gefahr, viele Formen der Diskriminierung zu verfestigen", dienten als Basis für "die weitreichende und wahllose Überwachung und Verfolgung von Bevölkerungsgruppen anhand ihrer biometrischen Merkmale".

Die Co-Vorsitzende der Datenethik-Kommission, Christiane Wendehorst, begrüßte die Liste allgemein verbotener KI-Praktiken etwa zur Manipulation oder zur Massenüberwachung. "Damit werden endlich 'rote Linien' formuliert, welche von KI-Anwendungen nicht überschritten werden dürfen." Die Wiener Zivilrechtlerin verweist aber auf eine "befremdliche Diskrepanz": Einerseits betone die Kommission, dass solche Techniken "den europäischen Werten und Grundrechten" widersprächen, doch sollten diese dann aus Gründen der öffentlichen Sicherheit per Gesetz erlaubt werden.

In diesem Kontext sollte beachtet werden, "dass grundsätzlich der Einsatz von KI gerade durch staatliche Stellen besonders sensibel ist und sorgfältiger Abwägung bedarf", gibt die Frankfurter Datenschutzrechtlerin Anne Riechert zu bedenken. Für die Tübinger Medienethikerin Jessica Heesen macht der Entwurf deutlich, dass Probleme rund um Überwachung und Sicherheitsfragen "nicht allein durch eine Regulierung von KI überwunden werden können".

"Manipulation" etwa werde zurecht so weit definiert, "dass hierunter letztlich auch der gesamte Bereich der personalisierten Werbung und des adaptiven Designs der sozialen Medien gefasst werden könnte", bringt Heesen ein Beispiel. In beiden Bereichen komme KI zum Einsatz, um das Verhalten der Nutzer zu beeinflussen. Dabei handle es sich aber um ein "zentrales Merkmal des Geschäftsmodells der Plattformbetreiber". Es sei daher fraglich, wie die Verordnung hier umgesetzt werden könne.

Laut Kristian Kersting, der an der TU Darmstadt maschinelles Lernen erforscht, könnten die Vorgaben sogar so interpretiert werden, dass soziale Medien verboten werden sollten: "Das klingt zwar zynisch, aber viele Leute sind der Meinung, das soziale Netzwerke die Meinung von Menschen negativ beeinflussen können." Entsprechende Algorithmen und Social Scoring würden von vornherein als inakzeptabel eingestuft.

Auch die Mindeststandards, die die Kommission bei KI etwa für die Personalauswahl oder die Polizeiarbeit vorsehe, dürften Kersting zufolge kaum handhabbar sein: "Eine vollständige, explizite Beschreibung sämtlicher Auswirkungen von Aktionen auf alle in einer Welt geltenden Fakten ist schwer, wenn nicht unmöglich." Das Ziel sei zwar gut, "die Details aber vernebelt". Die Regeln dürften nicht zu weit gehen, denn "Vorsprung in der KI bedeutet Wohlstand durch Innovation und ein starkes Werkzeug im Kampf gegen Klimawandel und Krankheiten".

"Neue Technologien, Lösungen und Märkte brauchen einen verlässlichen ordnungspolitischen Rahmen, aber ohne Überregulierung", betonte Antonio Krüger, Geschäftsführer des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI). KI sei keine neue Wissenschaft, aber die Anwendungen und die Marktdurchdringung steckten noch in der Pubertät. Klar sei, dass die Technik in Europa nicht für willkürliche Überwachung eingesetzt werden dürfe. Das DFKI steht wegen breiter KI-Kooperationen mit China in der Kritik.

Es sei richtig, Künstliche Intelligenz "in möglichst grundrechtswahrende Bahnen lenken" zu wollen, erklärte der Hamburger Medienforscher Stephan Dreyer. Laut dem Entwurf könnten unter KI aber fast jede derzeit eingesetzte Software inklusive Modulen und Programmbibliotheken fallen. Auch Hochrisiko-KI definiere die Kommission entlang "hochgradig unbestimmter Kriterien, deren Vorliegen erst durch eine Risikoabschätzung ermittelt werden kann". (vbr)