Künstliche Intelligenz: Vestager warnt vor Rassismus bei Predictive Policing

Migranten und ethnische Gruppen könnten durch Algorithmen-getriebene Strafverfolgung gezielt ins Visier genommen werden, befürchtet die Digitalkommissarin.

Lesezeit: 1 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 73 Beiträge

Die Dänin Margrethe Vestager ist für die Digitalpolitik zuständige Vizepräsidentin der EU-Kommission.

(Bild: dpa)

Von

Margrethe Vestager sieht neben Chancen auch Gefahren der Künstlichen Intelligenz (KI). Sie könne Menschen diskriminieren und Vorurteile verstärken, "die bereits in unserer Gesellschaft verbreitet sind", warnte die für die Digitalpolitik zuständige Vizepräsidentin der EU-Kommission am Dienstag zur Eröffnung des European AI Forum. "Frauen wird möglicherweise keine Führungsposition angeboten, weil sie in der Vergangenheit weniger solche Stellen bekommen haben als Männer."

"Migranten und Menschen, die bestimmten ethnischen Gruppen angehören, könnten durch Techniken der vorausschauenden Polizeiarbeit ins Visier genommen werden, die die gesamte Aufmerksamkeit der Strafverfolgungsbehörden auf sie lenken", verwies Vestager auf den zunehmenden Einsatz von Methoden des Predictive Policing. Ganz in diesem Sinne hatte zuvor die Polizei in Los Angeles beschlossen, ihr Programm PredPol nicht mehr einzusetzen.

heise online daily Newsletter

Keine News verpassen! Mit unserem täglichen Newsletter erhalten Sie jeden Morgen alle Nachrichten von heise online der vergangenen 24 Stunden.

KI könne auch das Verhalten von Produkten verändern, "nachdem wir sie gekauft haben", sagte Vestager. "Wenn ein Musikstreaming-Dienst mir ein Lied empfiehlt, das mir nicht gefällt, kann ich damit leben. Aber wenn mein selbstfahrendes Auto Entscheidungen darüber trifft, wessen Leben im Falle eines Unfalls verschont bleiben soll, würde ich mir mehr Kontrolle über solche Entscheidungen wünschen." Die Kommission fordere daher über ihr Weißbuch zur Künstlichen Intelligenz, risikoreiche Anwendungen angemessen zu regulieren. KI-Produkte müssten "technisch robust und sicher" sein und auf der Grundlage zuverlässiger Daten trainiert werden. An einem gewissen Punkt sollte auch der Mensch im Spiel sein und letztlich eine Entscheidung treffen.

Zum Thema siehe auch:

Wenn KI richtig entwickelt und genutzt werde, könne sie aber auch "Wunder wirken für unsere Wirtschaft und unsere Gesellschaft", meinte Vestager. Mit der Technik könnten Krisen etwa im Gesundheitssystem wie die aktuelle Coronavirus-Pandemie bewältigt und die nächste Krise vorhergesagt werden. KI könne zudem helfen, "betrügerische Transaktionen auf E-Commerce-Marktplätzen zu erkennen" sowie "bis 2050 klimaneutral zu werden".

Fast 1200 Personen oder Organisationen haben an der Konsultation zu dem Weißbuch teilgenommen. Verspätet hatte sich Anfang der Woche auch die Bundesregierung noch in das Konsultationsverfahren eingebracht und vorgeschlagen, für KI-Systeme mit hohem Risiko ein Register sowie eine Meldepflicht für Unfälle einzuführen. Bürgerrechtsorganisationen wie Access Now oder European Digital Rights (EDRi) fordern in ihren Eingaben dagegen ein klares Verbot KI-getriebener Hochrisikotechnologien wie Predictive Policing oder biometrischer Gesichtserkennung. Derartige Instrumente zur unterschiedslosen Massenüberwachung könnten durch keinerlei Kautelen in Einklang mit den Menschenrechten gebracht werden.

(anw)