Expertin: Künstliche Intelligenz kann Vorurteile verstärken

Gesichtserkennung versagt auffallend oft etwa bei schwarzen Frauen – und das kann bestehende Vorurteile festigen, kritisiert eine Computerwissenschaftlerin.

Lesezeit: 1 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 164 Beiträge

Nicht sehr wahrscheinlich: Die Journalistin und Frauenrechtlerin Ida B. Wells hält KI-Gesichtserkennung (hier von Amazon) ziemlich sicher für einen Mann.

(Bild: Joy Buolamwini (Screenshot aus Video))

Von

Diskriminierung und Rassismus im Alltag spiegeln sich nach Meinung der Computerwissenschaftlerin Joy Buolamwini auch in künstlicher Intelligenz wider – und können bestehende Vorurteile verfestigen. Das sei aus verschiedenen Gründen eine Gefahr, sagte die Expertin am Samstag auf der Innovationskonferenz DLD in München.

"Zusammen mit meinen Kollegen wollte ich herausfinden: Wie gut können Services wie IBM, Microsoft oder Face++ das Geschlecht eines Gesichts erraten", sagte Buolamwini in München. Dabei sei herausgekommen: Am wenigsten gut funktionieren die Systeme bei schwarzen Frauen. In den USA haben Buolamwini und ihre Organisation das Thema bekannt gemacht – und die Sensibilität der meisten Anbieter erhöht. Seit ihrer ersten Studie 2018 hätten etliche Firmen an ihren Programmen gearbeitet.

Es gehe ihr nicht darum, anzuklagen, sondern Bewusstsein zu schaffen und die Systeme zu verbessern. Das führe aber auch zu der Frage: "Welche Art von Systemen wollen wir haben?" Was solle mit Systemen etwa zur automatischen Gesichtserkennung gemacht werden. Es gebe Anbieter, die ihre Fähigkeiten Behörden zur Verfügung stellen, um bestimmte ethnische Gruppen in Videos zu identifizieren. Auch das könne Rassismus fördern, sagte Buolamwini.

Buolamwini gründete in den USA eine Organisation, die sich dem Kampf gegen Ungerechtigkeit in Algorithmen widmet, die Algorithmic Justice League. In deren Rahmen gibt es auch das Projekt "Not flawless AI", das unter anderem auf die mangelhaften Fähigkeiten von KI bei der Gesichtserkennung hinweist.

In diesem Video des "Algorithmic Justice League Project" zeigt Joy Buolamwini zahlreiche Beispiele für fehlgeschlagene Erkennung von Gesichtern schwarzer Frauen durch KI.

Die jährlich vom Medienkonzern Burda veranstaltete DLD-Konferenz (Digital Life Design) will eine Brücke zwischen Technologie, Wirtschaft und Kultur schlagen. Zu den zentralen Themen gehören in diesem Jahr der Klimawandel, künstliche Intelligenz und Quantencomputer. Das Motto ist diesmal "What are you adding?" – etwa: "Was bringst Du ein?". Die Frage soll zur aktiveren Beteiligung am aktuellen Wandel durch die Digitalisierung animieren. (tiw)