Unausgewogen und voreingenommen: systematischer Gender-Bias in KI-Systemen

Warum werden bestimmte Gruppen durch KI-Algorithmen benachteiligt? Und wie erfolgreich sind die Gegenmaßnahmen von Wissenschaft, Wirtschaft und Politik?

Lesezeit: 9 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 1 Beitrag
Von
  • Ariane Rüdiger
Inhaltsverzeichnis
Mehr zu digitale Ethik:

Die Euphorie über die Möglichkeiten der zweiten AI-/ML-Welle ist an vielen Stellen längst verflogen. An ihre Stelle tritt zumindest in Europa langsam das Verständnis, das nicht das technologisch Machbare und die dadurch erzielbaren Renditen oder Rationalisierungspotentiale das Maß aller Dinge sein sollten. Vielmehr fragen Sozialwissenschaftler*innen, Juristen *innen und andere, ob Software mit integrierten AI-Algorithmen mehr Gerechtigkeit oder nur mehr Gewinn bedeutet, wer bevorzugt und benachteiligt wird. Diese Fragen zu beantworten, ist nicht immer einfach.

Britta Schinzel, 2008 emeritierte Professorin für Mathematik und Informatik an der Universität Freiburg, ist eine der Pionier*innen der Erforschung der Wechselwirkung zwischen Informatik und Gesellschaft. Für ihre Verdienste wurde sie zum Fellow der Gesellschaft für Informatik (GI) ernannt. In einem (auf Youtube erhältlichen) Vortrag über Big Data, Data Mining und AI/ML sieht Schinzel mit AI/ML-Algorithmen angereicherte Software als unauflösbare Verzahnung von Daten, Bediener*innen und Algorithmen, die im Lauf der Zeit immer undurchsichtiger wird. Schinzel: "Die Benutzungs-Iterationen, das Kombinieren von Algorithmen, das Anreichern mit weiteren Software-Systemen durch Training und mit minierten Daten stellen einen irreversiblen Prozess von wechselweisen, geschlossenen Aktionen dar, der nicht mehr dekonstruierbar ist, weil intransparent, zu komplex, sich zu rasch anreichernd. Man vergisst leicht, dass Menschen ihn initialisiert haben."

Sprich: KI-Software tritt den Menschen, die von ihren Entscheidungen betroffen sind, als fertiges Ganzes entgegen, dessen Entscheidungsvoraussetzungen sie kaum in Frage stellen können, weil sie schlicht nicht mehr nachzuvollziehen sind. Dominant sind bei ihrer Entwicklung, so Schinzel, heute in der Regel Geschäftsinteressen, vor allem die der fünf großen KI-Unternehmen in den USA (Amazon, Apple, Facebook, Google, Microsoft).

Immer mehr Wissen. Das digitale Abo für IT und Technik.

  • Zugriff auf alle Inhalte von heise+
  • exklusive Tests, Ratgeber & Hintergründe: unabhängig, kritisch fundiert
  • c't, iX, Technology Review, Mac & i, Make, c't Fotografie direkt im Browser lesen
  • einmal anmelden – auf allen Geräten lesen - monatlich kündbar
  • erster Monat gratis, danach monatlich 9,95 €
  • Wöchentlicher Newsletter mit persönlichen Leseempfehlungen des Chefredakteurs
GRATIS-Monat beginnen Jetzt GRATIS-Monat beginnen Mehr Informationen zu heise+