Menü

Künstliche Intelligenz: Überall in Europa entscheiden schon Algorithmen

Algorithmwatch hat aus mehreren EU-Staaten Beispiele für den Einsatz von KI-Systemen zur Entscheidungsfindung zusammengetragen. Darüber müsse diskutiert werden.

vorlesen Drucken Kommentare lesen 143 Beiträge
Künstliche Intelligenz: Überall in Europa entscheiden schon Algorithmen

(Bild: whiteMocca/Shutterstock.com)

Während in öffentlichen Debatten über Künstliche Intelligenz oft ferne Gefahren beschworen werden, würden tatsächlich bereits eingesetzte Algorithmen vernachlässigt. Davor warnt die Organisation Algorithmwatch und hat deswegen Projekte aus der Europäischen Union zusammengetragen, in denen bereits Systeme zur automatischen Entscheidungsfindung eingesetzt werden. Um deren Chancen aber auch Gefahren wahrzunehmen, müsse man nicht immer auf die Vereinigten Staaten blicken.

So werde in der belgischen Region Flandern automatisiert das Klickverhalten von Jobsuchenden ausgewertet, um herauszufinden, ob sie zu einem Gespräch eingeladen oder sogar für mangelnde Aktivität bei der Suche bestraft werden müssen. In Dänemark werde automatisiert entschieden, welche Bezieher von Sozialleistungen näher überprüft werden sollen und dabei werde "Effizienz und Überwachung" höher gewichtet als die Rechte der Bürger und die Regeln des Rechtsstaats. Das finnische Startup DigitalMinds wolle die Beteiligung von Menschen am Auswahlprozess von Bewerbern mit KI unnötig machen.

Insgesamt hat Algorithmwatch Dutzende solcher Beispiele aus zwölf EU-Staaten und der Europäischen Union selbst zusammengetragen. Besonders häufig geht es um Behörden, die Evaluierungsaufgaben an Maschinen auslagern, mutmaßlich um Personal zu sparen. Besonders transparent ist das offenbar nur selten. In Dänemark etwa gab es einen öffentlichen Aufschrei, als Pläne der Regierung für eine automatisierte Berechnung von Risiken für das Kindeswohl bekannt wurden. Mit Punkten sollten etwa Arztbesuche positiv, oder Scheidungen der Eltern negativ bewertet werden. Das Projekt wurde gestoppt.

Für Deutschland verweisen die Autoren auf die Scoringfirma Schufa, die unter Zuhilfenahme von Algorithmen die Kreditwürdigkeit von Personen ermittelt. Welche Kriterien dafür wie herangezogen werden, ist noch ein Geschäftsgeheimnis. Weiterhin verweist Algorithmwatch auf KI-Systeme, die als wesentlicher Bestandteil das Stromnetz inmitten der Energiewende am Laufen halten. Schließlich wird auch noch die verhaltensbasierte Videoüberwachung aufgeführt, die in Mannheim getestet wird. Damit soll Straßenkriminalität besser bekämpft werden.

In vielen Ländern werden außerdem Systeme zum Predictive Policing getestet oder sogar eingesetzt, geht aus dem Bericht hervor. Hier würden oft technische Fragen zur Genauigkeit oder zur Datenqualität in den Vordergrund gerückt, während andere übersehen würden. So bestehe durch derartige Systeme die Gefahr, dass bestimmte Areale übermäßigen Polizeieinsätzen ausgesetzt würden, ohne dass Gesetze zum Datenschutz wie die häufig genannte Datenschutzgrundverordnung überhaupt greifen.

Auf Basis der Einzelfallbeispiele hat Algorithmwatch einige Forderungen formuliert, um die KI-Debatte zielführender zu machen. So sollten aktuelle Entwicklungen diskutiert werden, dystopische Warnungen vor einer Herrschaft der Maschinen würden nur ablenken. Automatisierte Entscheidungsfindung sollte in seiner Gesamtheit gesehen werden, nicht nur die dahintersteckende Technik.

So sei etwa wichtig zu wissen, ob Behörden aus Sparzwängen auf derartige Systeme setzen. Bürger und Behörden müssten für die Technik fit gemacht, die Zivilgesellschaft als Kontrollinstanz gestärkt werden. Adäquate Aufsichtsbehörden müssten eingerichtet und die Lücke zwischen den EU-Staaten verringert werden. Außerdem müsse klar sein, dass zur Regulierung von KI nicht nur der Datenschutz herangezogen werden kann. (mho)