Soziales Kreditsystem: EU-Parlament will Verbot von Social Scoring

Behörden sollen das soziale Verhalten der Bürger nicht automatisiert bewerten dürfen, verlangt das EU-Parlament. KI könne die Grundrechte massiv bedrohen.

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 51 Beiträge

(Bild: artjazz/Shutterstock.com)

Von
  • Stefan Krempl

Bestimmte Systeme für Künstliche Intelligenz (KI) ermöglichen "die Automatisierung der Informationsverarbeitung und des Handelns in einem noch nie dagewesenen Ausmaß", schlägt das EU-Parlament in einem am Mittwoch mit 364 zu 274 Stimmen bei 52 Enthaltungen angenommenen Initiativbericht Alarm. Es verweist dabei etwa auf "die massenhafte zivile und militärische Überwachung, die eine Bedrohung für die Grundrechte darstellt und den Weg für unrechtmäßige Eingriffe in die staatliche Souveränität ebnet".

Die Abgeordneten fordern daher, sämtliche Maßnahmen zur Massenüberwachung völkerrechtlich zu überprüfen und dabei auch "Fragen der Zuständigkeit und der Durchsetzung" in den Blick zu nehmen. "Schwerwiegende Bedenken" hegen sie gegenüber Anwendungen, mit denen das soziale Verhalten der Bürger automatisiert bewertet wird, was einem tiefen Eingriff in die Grundrechte gleichkomme. Die Parlamentarier drängen daher auf ein "ausdrückliches Verbot des Einsatzes von massenhaftem 'Social Scoring' durch öffentliche Stellen".

Mit einem Konzept und regionalen Experimenten für ein Sozialkreditsystem inklusive einer Bürgerbewertung in Form eines "Citizen Score" sorgt vor allem China für Schlagzeilen. Die von der Regierung in Peking schon 2014 umrissene "Schufa auf Anabolika" ist zwar nicht mehr ganz im Zeitplan, soll aber auf Basis eines nationalen Gesetzes weiterverfolgt werden.

Der Sachverständigenrat für Verbraucherfragen (SVRV) appellierte bereits 2018 an den Gesetzgeber und Aufsichtsbehörden, sie sollten Maßnahmen ins Auge fassen, damit solche verknüpften "Super-Scores" nicht auch "in Deutschland kommerziell angeboten werden". Die Experten warnten, dass "internationale kommerzielle Anbieter" derlei weitgehende automatisierte Punktesysteme nach Europa bringen könnten.

Die Abgeordneten äußern auch Bedenken gegen "Deepfakes", weil mit derartigen Praktiken "potenziell Länder destabilisiert, Desinformationen verbreitet und Wahlen beeinflusst werden können". Kunst- und Medienschaffende sollten verpflichtet werden, solches Material als "nicht original" zu kennzeichnen. Es müsse auch mehr Forschung zu solchen Technologien betrieben werden, um dem Phänomen entgegenzuwirken.

KI-gestützte Systeme sollen dem Menschen dem Bericht zufolge immer eine sinnvolle Kontrolle ermöglichen, damit er die Verantwortung und Rechenschaftspflicht für ihren Einsatz wahrnehmen kann. Der Einsatz von tödlichen autonomen Waffensystemen wirft den Parlamentariern zufolge grundlegende ethische und rechtliche Fragen zur menschlichen Aufsicht auf. Sie bekräftigen daher ihren Ruf nach einer EU-Strategie für ein Verbot von "Killer-Robotern".

Die Entscheidung, ein Ziel auszuwählen und eine tödliche Maßnahme mit einem Waffensystem zu ergreifen, müsse immer von einem Menschen getroffen werden, heißt es in der Resolution. Dieser müsse das erforderliche Maß an Urteilsvermögen im Einklang mit den Grundsätzen der Verhältnismäßigkeit und der Notwendigkeit einbringen. Die EU sollte hier eine führende Rolle beim Erstellen eines globalen Rahmens für den militärischen Einsatz von KI an der Seite der UN übernehmen. Die Mitgliedsstaaten müssten allgemein sicherstellen, dass KI und verwandte Technologien im Dienste der Menschheit und des Gemeinwohls stehen.

Der verstärkte Einsatz von KI-Systemen im öffentlichen Dienst darf laut den Abgeordneten vor allem im Gesundheits- und Justizwesen nicht den menschlichen Kontakt ersetzen oder zu Diskriminierung führen. Menschen sollten immer informiert werden, wenn sie von einer Entscheidung betroffen sind, die auf KI basiert. Es müsse auch möglich sein, einen solchen Beschluss anzufechten.

Im Gesundheitswesen sollten die persönlichen Daten der Patienten etwa bei robotergestützter Chirurgie, intelligenten Prothesen oder in der prädiktiven Medizin geschützt und der Grundsatz der Gleichbehandlung gewahrt werden, verlangt das Parlament. Im Justizbereich könne KI helfen, Verfahren zu beschleunigen und rationellere Entscheidungen zu treffen. Endgültige Gerichtsentscheidungen müssten aber von Menschen getroffen werden und einem ordentlichen Verfahren unterliegen.

Die Grünen erkannten zwar gute Ansätze in dem Bericht, stimmten aber dagegen. Sie monierten, die Vorlage suggeriere, dass biometrische Gesichtserkennung im öffentlichen Raum "mit den Grundrechten in Einklang gebracht werden und mögliche Diskriminierung durch 'Schutzmaßnahmen' vermieden werden könnten". Der EU-Abgeordnete Patrick Breyer von der Piratenpartei, der sich der Grünen-Fraktion angeschlossen hat, hielt dagegen: "Die biometrische Massenüberwachung des öffentlichen Raums muss ein für alle Mal verboten werden." Zudem dürfe fehleranfällige KI nicht ins Spiel gebracht werden, um Gerichtsverfahren zu beschleunigen.

(mho)