Menü

Algorithmen und Scoring: Maas fordert digitales Anti-Diskriminierungsgesetz

Justizminister Heiko Maas will den Einsatz diskriminierender Algorithmen verhindern und "vorurteilsfreies Programmieren" fördern. Auch ein erweitertes Transparenzgebot für Algorithmen und z.B. fürs Scoring brachte er ins Spiel.

von
vorlesen Drucken Kommentare lesen 186 Beiträge
Menschenmenge mit Masken

(Bild: Gerd Altmann, Lizenz Public Domain (Creative Commons CC0) )

Angesichts des zunehmenden Einflusses von Algorithmen auf Wirtschaft, Gesellschaft und Politik hat sich Bundesjustizminister Heiko Maas für klarere und schärfere Regeln für Programmierer und Unternehmen ausgesprochen. "Der technische Fortschritt darf nicht zu gesellschaftlichem Rückschritt führen", betonte der SPD-Politiker am Montag auf der Konferenz "Digitales Leben ­ Vernetzt. Vermessen. Verkauft?" in Berlin. "Wir dürfen nicht genau die Werte verkaufen und opfern", die für die freiheitliche und gleiche Gesellschaft essenziell seien.

Heiko Maas fordert unter anderem ein "Transparenzgebot für Algorithmen".

(Bild: heise online / Stefan Krempl)

"Ein digitales Antidiskriminierungsgesetz könnte hilfreich sein für vorurteilsfreies Programmieren", erklärte Maas. Seit zehn Jahren gebe es auf diesem Gebiet Bestimmungen für die analoge Welt in Form des Allgemeinen Gleichbehandlungsgesetzes. Ein vergleichbarer Ansatz könnte auch in der digitalen Welt etwa den Einsatz diskriminierender Algorithmen verhindern. Dies sei nötig, da derzeit mithilfe automatisierter Entscheidungsfindung vielfach "soziale Ungleichheit reproduziert und verfestigt" werde. Algorithmen könnten Handlungsfreiheit auch durchaus auch einschränken, verwies der Jurist auf die Debatte über Echokammern und Filterblasen in sozialen Netzwerken.

Für die schöne neue Welt der programmierten Fremdbestimmung führte der Sozialdemokrat zahlreiche Beispiele ins Spiel. Der Rhythmus, mit dem wir die Tastatur bedienen, gibt Einsicht in unsere Konsumlaune", erläuterte der Minister. Bewerbungen würden durch selbstlernende Algorithmen vorsortiert, die Justiz in den USA prognostiziere damit bereits die Rückfallwahrscheinlichkeit von Straftätern. In China solle künftig mit einem "Citizen Score" die soziale Zuverlässigkeit der Bürger berechnet und mit scharfen Sanktionen unterlegt werden. In Australien seien bei einem einschlägigen Experiment der Finanzbehörden mit Datenabgleichen massive Steuerschulden von Millionen Menschen berechnet worden.

"Wir reduzieren Menschen auf ihre Vergangenheit, können ihnen wichtige Chancen für den Neustart verbauen", warnte Maas. Gerade bei Polizei und Strafverfolgung könnten die Folgen verheerend sein, wenn Big Data mit statistischen Scoring-Verfahren ausgewertet würden. Diverse Nachteile und Ausgrenzung drohten. In den USA habe sich bereits gezeigt, dass die Anerkennung der automatischen Gesichtserkennung als Beweismittel vor Gericht zu einem deutlich höheren Risiko für Afro-Amerikaner führe, fälschlich verurteilt zu werden. Dies habe daran gelegen, dass die Systeme mit weißen Testpersonen trainiert worden seien und bei diesen viel differenzierter funktionierten.

Maas postulierte daher: "Wir brauchen eine gleichberechtigte Teilhabe mit gleichen Chancen für alle." Der Sozialstaat müsse auch in der digitalen Ära davor geschützt werden, "dass die Schwächeren auf der Strecke bleiben". Auch die Selbstbestimmung sei zu bewahren. Ein kafkaeskes Szenario wie in der Comedy-Serie "Little Britain", wo der Computer immer wieder nur ohne Erläuterungen Nein sage, "passt nicht zum freiheitlichem Rechtsstaat", in dem alle Entscheidungen begründet werden müssten. Menschen dürften aufgrund ihrer verfassungsrechtlich garantierten Würde nicht durch Technik bestimmt, nicht zum bloßen Objekt eines Algorithmus werden.

Als Gegenmittel führte der Minister auch ein "Transparenzgebot für Algorithmen" ins Feld. In Punkto "Sicherheit und Rechtsdurchsetzung", wo Maas gerade über den Bundestag mit dem umstrittenen "Facebook-Gesetz" Fakten schaffte, könnten ihm zufolge auch verpflichtende Mindestanforderungen für die IT-Sicherheit im Internet der Dinge oder freiwillige Gütesiegel helfen. Es dürfe jedenfalls "auch keinen rechtsschutzfreien Raum geben". Maas machte sich ferner für ein "Recht auf eine analoge Welt" stark: Gerade im häuslichen Umfeld müsse jeder den Grad und Zeitpunkt der Digitalisierung selbst bestimmen können. Auch bei Behördendienstleistungen sei ein Zwang zum Netz "schwierig".

Der "nächsten Bundesregierung" legte das Kabinettsmitglied ans Herz, sich mit dem Vorschlag für den Aufbau einer Digitalagentur "ernsthaft auseinanderzusetzen". Diese könne bei der weiteren Regulierung Expertise aus der Wissenschaft mit einbringen und verschiedene Interessensvertreter an einem Tisch zusammenführen.

Verhaltenssteuerung durch Algorithmen geschehe weitgehend in einem "Arkanbereich", sei Dritten also kaum zugänglich und von der Gesellschaft schwer zu kontrollieren, beklagte Ex-Bundesverfassungsrichter Wolfgang Hoffmann-Riem. Es fehlten "wirksame Vorkehrungen zum Rechtsschutz", vor allem "kollektive Gemeinwohlgüter" würden durch Selektionsmechanismen und die Stigmatisierung bestimmter Bevölkerungsteile gefährdet.

Die Politik muss laut dem Juristen mit weitgehenden Konzepten und Strategien gegenhalten. Er warb etwa dafür, Maximen und Kriterien besonders wichtiger Algorithmen offenzulegen. Nötig sei auch ein Paradigmenwechsel beim Datenschutz. Der Begriff personenbezogener Daten müsse neu bestimmt und ausgeweitet werden auf Erkenntnismöglichkeiten durch Big-Data-Analysen, mit denen auch Anonymisierungsmechanismen leichter ausgehebelt werden könnten. Für bestimmte Datenkategorien sollten "Kennzeichnungs-, Löschungs- und Verwertungsfristen vorgesehen werden". Andere Forscher machen sich parallel für mehr "Datengerechtigkeit" stark.

Die grüne Medienexpertin Tabea Rößner kritisierte, dass Maas erst am Ende der Legislaturperiode mit seiner Initiative um die Ecke komme, wenn diese im Parlament gar nicht mehr beraten werden könne. Getan habe das Bundesjustizministerium vier lange Jahre nichts in diesem Bereich. So sei die Forderung "wohl dem bevorstehenden Wahlkampf zuzurechnen". (Stefan Krempl) / (jk)

Anzeige
Zur Startseite
Anzeige