Menü
iX Magazin

Fragen der Ethik: Was dürfen Algorithmen und KI-Systeme?

Zunehmend begegnen uns KI-Systeme im Alltag. Doch was sie tun dürfen und was nicht, ist eine schwierige Frage. Ihr geht die aktuelle iX 5/2018 nach.

Von
vorlesen Drucken Kommentare lesen 47 Beiträge
Fragen der Ethik: Was dürfen Algorithmen und KI-Systeme?

Immer mehr Nutzer verlassen sich daheim und bei der Arbeit auf KI-Assistenten – Alexa beantwortet die Frage nach dem Wetter, die Fitnessuhr sammelt Daten der morgendlichen Laufrunde und im Büro erinnert der Bot des Messenger an das nächste Meeting. Was sich praktisch anhört, wirft aber im Alltag wichtige Fragen zur Ethik solcher Algorithmen auf. Ihnen geht Ariane Rüdiger in einem Artikel der aktuellen iX 5/2018 nach.

KI reproduziert Vorurteile

Vor dem Judgement Day kann man sich zwar fürchten, doch schon jetzt wirken sich KI-Systeme auf ihre Nutzer und die Gesellschaft generell aus: Zum Beispiel haben Forscher schon länger festgestellt, dass Algorithmen Vorurteile reproduzieren – besonders gravierend, wenn sie Autoritäten verwenden, um Menschen zu beurteilen. Schon jetzt experimentieren Polizei und Strafvollzug mit solcher Technik, oft zum Nachteil der betroffenen Gruppen.

Gleichzeitig sind Algorithmen auch immer ein Produkt der Kultur ihrer Programmierer. Wie soll eine Gesellschaft also damit umgehen, dass ein fremdes Unternehmen seine teuer entwickelte Technik bei ihr einsetzt? Und selbst im selben Land stellt sich die Frage: Was für Berlin funktionieren mag, dem misstraut der Bayer schon seit Zeiten der Vor-IT-Welt.

Hoffen auf den Gesetzgeber

Viele Forscher stellen jedoch fest, dass sich gerade jüngere Nutzer keine Sorgen um ihre Daten und die sie bearbeitenden Algorithmen machen. Also setzen sie ihre Hoffnung auf staatliche Regelungen, zum Beispiel die neue Datenschutz-Grundverordnung, aber auch Branchenverbände wie den Bitkom, die ihren Mitgliedern Leitfäden für das Entwickeln neuer KI-Systeme an die Hand geben. Welche Beispiele es für die Anstrengungen der Verantwortlichen gibt, erfahren Interessierte im Artikel.

Siehe dazu auch:

(fo)