Sozial nachhaltige Informatik braucht diversere Entwicklerteams, frische Daten

Software kommt oft von "sehr homogenen" Gruppen, die historische Daten nutzen. Das reproduziere Diskriminierung, meinten Kritiker auf der Informatik 2021.

Lesezeit: 4 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 52 Beiträge
5 Teilnehmer einer Videokonferenz auf einem Bildschirm

Screenshot der Informatik 2021

(Bild: Screenshot)

Von
  • Stefan Krempl

Mehr Diversität in Teams von Programmierern fordert Bianca Herlo, Designforscherin mit dem Schwerpunkt partizipative Gestaltung am Weizenbaum-Institut in Berlin. Entwickler stellten oft noch "sehr homogene Gruppen" dar, erklärte die Wissenschaftlerin am Mittwoch auf der Konferenz Informatik 2021. Vor allem beim Entwerfen algorithmischer Systeme falle ins Gewicht, dass häufig historische Daten herangezogen werden, die Diskriminierungen noch stärker reproduzierten.

Die Tech-Community müsse so aufgestellt sein, dass sie gesellschaftliche Transformationsprozesse leichter mittragen könne. Parallel sollten Forscher die Implikationen digitaler Technik besser aufzeigen, anstatt zu viel Euphorie zu verbreiten. Andere pflegten "dystopische Vorstellungen" über Gefahren, explosive Momente und Machtasymmetrien, die ganze Gesellschaftsteile ausschlössen.

Bei manchen Anwendungen und Web-Funktionen wie Cookie-Bannern machte die Expertin in dem Panel zu sozialer nachhaltiger Informatik auf der Jahrestagung der Gesellschaft für Informatik (GI) sogar "böswillige Gestaltung" aus. Dagegen könnten Standards für nutzer- und datenschutzfreundliche Programmierung helfen. Ferner sei besseres Zusammenspiel zwischen Information, digitaler Kompetenz und Regulierung entscheidend, um Infrastruktur für digitale Mündigkeit zu schaffen.

Cookie-Banner seien oft nicht nur "bösartig" und an den Nutzerinteressen vorbei gestaltet, sondern erschwerten auch das Messen der "User Experience", erläuterte Wolfram Wingerath vom Cloud-Dienstleister Baqend. Diese Firma versucht, mit neuen Caching-Algorithmen Ladezeiten von Webseiten zu minimieren. Schon "zwei Sekunden nerviges Geklicke" führten zu Verfälschungen. Generell brauche es noch viel Forschung, um ein gemeinsames Verständnis aufzubauen, "was schnelles Internet überhaupt bedeutet". Wingerath baut dafür mit der Uni Hamburg und Google die Plattform speedhub.org auf.

Dating Apps sind für Marie Kochsiek vom Verein Heart of ein probates Beispiel für starke "implizite Beeinflussung". Teilnehmer müssen dort Daten etwa zum eigenen Körper und sexueller Orientierung eingeben. Darauf basierende werden dann andere Nutzer angezeigt. Das führe mit sich, dass "ich eine ganze Menge Menschen gar nicht kennenlernen können werde", weil der Filter vor allem auf Erfahrungen mit früheren Anwendern basiere.

Lesen Sie auch

Kochsiek gehört auch zum Entwicklungsteam der Zyklus-App Drip, mit der Nutzerinnen Daten zur Periode lokal und verschlüsselt speichern können. Die Arbeit daran habe ihr klar gemacht, wie relevant ethische Fragen für Programmierer seien. Bei dem Projekt gehe es um intime Fragen zur Häufigkeit von Sex, den Gesundheitszustand und den Einsatz von Verhütungsmitteln. Solche Daten an Werbetreibende weiterzugeben, wäre wohl nicht im Interesse der meisten User.

"Wir beziehen die Betroffenen von Anfang an in die Gestaltung mit ein", versicherte Matthias Peissner, Leiter des Forschungsbereichs Mensch-Technik-Interaktion am Fraunhofer-Institut für Arbeitswirtschaft und Organisation (IAO). Viele Mitarbeitende hätten derzeit das Gefühl, dass die Digitalisierung und Verfahren zur Leistungsbewertung die Profitmaximierung förderten. Assistenzsysteme könnten aber dazu beitragen, dass weniger Fehler passierten und Menschen mit geringerer Qualifikation anspruchsvollere Jobs übernehmen könnten.

Peissner kritisierte, dass hierzulande Software für die Personalanalyse generell keinen guten Ruf habe. Oft gehe es daher im digitalen Arbeitsbereich darum, möglichst keine persönlichen Daten zu erfassen. Dabei könnten einschlägige Programme auch die Interessen der Mitarbeiter und das Optimieren der Produktionsprozesse unterstützen. Dafür müssten Informationen über Angestellte wie ihre Interessen, ihren Bedarf an Hilfsmitteln und ihr aktuelles Befinden "verantwortungsvoll" erhoben und ausgewertet werden.

In diesem Bereich gebe es bislang nur "grobe Ideen". So könnten die Daten nur auf persönlichen Geräten gesammelt werden, weiß der Wissenschaftler. Das "ganz heiße Eisen" bedürfe "substanzieller Forschung", wie solche Modelle aussehen könnten. Generell sei mehr Transparenz nötig rund um "Deals mit Unternehmen", deren Geschäftsmodell auf der Analyse persönlicher Daten beruhe. Jedem müsse genau vor Augen stehen, welchen Nutzen er erhalte und was er dafür preisgibt.

(ds)