Menü

Eingebettete KI-Vorurteile bleiben bestehen

Um Benachteiligungen durch Künstliche-Intelligenz-Systeme zu vermeiden, setzen Firmen und Unis bisher auf falsche Maßnahmen, sagt ein „AI Now“-Bericht.

Lesezeit: 1 Min.
In Pocket  speichern vorlesen Drucken Kommentare lesen 52 Beiträge

(Bild: Photo by Charles on Unsplash)

Technology Review
Von

Die Voreingenommenheit von KI-Systemen ist seit längerer Zeit bekannt. Bisherige Kurskorrekturen zur Vermeidung der eingebetteten Benachteiligungen greifen jedoch zu kurz, wie ein kürzlich veröffentlichter Bericht des Forschungsinstituts „AI Now“ darlegt. Das berichtet Technology Review online in „Das Vorurteilsproblem der KI verschwindet nicht“.

Das an der New York University beheimatete Institut hat zwei Hauptgründe identifiziert, warum die Bemühungen bisher gescheitert sind. Zum einen sei schwerpunktmäßig die Zahl von Frauen in technischen Berufen gefördert worden, anstatt auch die ethnische, Gender- und andere Arten von Diversität zu verbessern. Zum anderen sei der Fokus auf das „Reparieren der Pipeline“ unverhältnismäßig stark, also die Idee, einfach die Anzahl der Kandidaten aus unterrepräsentierten Gruppen zu erhöhen, die von Schulen in die Industrie strömen. Dabei würden andere systembedingte Nachteile unterschätzt, die Frauen und Minderheiten wieder aus dem Feld drängen, wie sexuelle Belästigung, unfaire Bezahlung und unausgewogene Machtverhältnisse.

So ist es wenig verwunderlich, wenn etwa die Zahl von KI-Professorinnen und -Forscherinnen an Universitäten mit 20 und 15 Prozent sowie Konferenzrednerinnen mit 18 Prozent immer noch recht gering ist. Der Mangel an ethnischer Vielfalt in der Arbeit an KI ist noch größer: Schwarze Arbeitnehmer machen nur 2,5 Prozent der gesamten Belegschaft von Google und vier Prozent der von Facebook und Microsoft aus.

Mehr dazu, welche Lösungen der Bericht vorschlägt, bei Technology Review online in:

(vsz)