Künstliche Intelligenz: EU-Parlament will nachvollziehbare Algorithmen

Die Abgeordneten verlangen eine stärkere Kontrolle über automatisierte Entscheidungsfindungen mit voller Nachprüfbarkeit von KI-Systemen.

Lesezeit: 1 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 70 Beiträge

Das EU-Parlament will, dass maschinell getroffene Entscheidungen transparent, kontrollier- und revidierbar sind.

(Bild: Tatiana Shepeleva/Shutterstock.com)

Von

Das EU-Parlament hat eine Resolution angenommen, mit der es Verbraucher besser vor Fehlurteilen durch automatisierte Systeme und Künstliche Intelligenz (KI) schützen will. KI-Verfahren dürften nur "nachvollziehbare und tendenzfreie Algorithmen" verwenden. Eingesetzt werden dürften nur Datensets von hoher Qualität, die nicht bestehende Vorurteile noch verstärken und Menschen diskriminieren könnten.

Es müssen Kontrollen eingerichtet werden, um Fehler beim "Automated Decision Making" (ADM) korrigieren zu können, fordern die Abgeordneten und folgten damit einer Empfehlung des Binnenmarktausschusses vom Januar. Verbraucher sollen darauf bestehen können, dass automatisierte Entscheidungen von Menschen überprüft werden und aufgehoben werden können.

heise online daily Newsletter

Keine News verpassen! Mit unserem täglichen Newsletter erhalten Sie jeden Morgen alle Nachrichten von heise online der vergangenen 24 Stunden.

Korrekturmöglichkeiten seien gerade bei medizinischen und rechtlichen Dienstleistungen sowie im Finanz- und Bankenbereich entscheidend für die Akzeptanz solcher Systeme. Bei einer Interaktion mit einer Technik, die Entscheidungsfindung automatisiert, sollten Betroffene "angemessen über die Funktionsweise informiert werden sowie darüber, wie ein menschlicher Ansprechpartner mit Entscheidungsbefugnissen erreicht werden kann".

Die Abgeordneten plädierten für "Explainable Artificial Intelligence", die oft als "Black Box" angesehene algorithmische Verfahren mit speziellen automatisierten Verfahren möglichst transparent zu machen. Das Parlament setzt sich auch für ein Risikobewertungsschema für KI ein und fordert die EU-Kommission auf, die EU-Sicherheits- und Haftungsregeln im Hinblick auf KI-fähige Produkte wie Maschinen und Spielzeug zu reformieren. Die 30 Jahre alte Produkthaftungsrichtlinie bedürfe ebenfalls einer Novelle.

Die Resolution geht nun an den Ministerrat und die Kommission, damit diesem den Beschluss der Abgeordneten Rechnung tragen. Die EU-Kommission will ihren Plan für einen europäischen KI-Regulierungsrahmen kommende Woche vorstellen. Ein zunächst erwogenes temporäres Verbot automatisierter Gesichtserkennung soll laut jüngsten Entwürfen nicht mehr darin enthalten, biometrische Massenüberwachung aber ausgeschlossen sein. (anw)