Menü

New York setzt auf diskriminierungsfreie Algorithmen in der Verwaltung

Der Stadtrat von New York hat ein Gesetz verabschiedet, mit dem die automatisierte Entscheidungsfindung in städtischen Behörden transparenter und zurechnungsfähiger werden soll.

Von
vorlesen Drucken Kommentare lesen 25 Beiträge
New York setzt auf diskriminierungsfreie Algorithmen in der Verwaltung

(Bild: Gerd Altmann, Public Domain (Creative Commons CC0 1.0 Universell))

Die Verwaltung von New York City will es erschweren, dass Bürger durch Algorithmen in automatischen Entscheidungssystemen kommunaler Behörden diskriminiert werden. Der Stadtrat hat dazu einen Gesetzentwurf beschlossen, wonach ein Arbeitsstab Empfehlungen für mehr Transparenz und Zurechnungsfähigkeit der verwendeten Programmroutinen ausarbeiten soll.

Der Gesetzentwurf Int 1696-2017, der noch vom New Yorker Bürgermeister Bill de Blasio unterschrieben werden muss, bezieht sich dabei insgesamt auf Programme, die Algorithmen oder vergleichbare Verfahren einsetzen, die auf Maschinenlernen oder Künstlicher Intelligenz (KI) beruhen.

Die Expertengruppe soll ein Verfahren entwickeln, über das sich herausfinden lässt, ob ein städtisches Amt über einen Mechanismus wie Scoring unverhältnismäßig zwischen Personen auf der Basis etwa von Alter, Hautfarbe, Religion, nationaler Herkunft, Geschlecht, Behinderungen, Familien- oder Partnerschaftsstatus, sexueller Orientierung oder Staatsangehörigkeit unterscheidet. Betroffenen müsse es zudem möglich sein, eine Erklärung für eine solche Entscheidung und die Grundlage dafür zu erhalten. Gegebenenfalls sollten auch Hilfsverfahren für Geschädigte vorgesehen werden.

Zuvor hatte eine Untersuchung von New York Times und ProPublica den Algorithmeneinsatz bei einem städtischen Kriminal-Labor zur Analyse komplexer DNA-Muster zumindest fragwürdig erscheinen lassen. Bei der Software, dem "Forensic Statistical Tool", soll demnach die Fehlerrate schon bei der Datenzufuhr hoch gewesen sein. Das Programm habe auch etwa nicht in Erwägung ziehen können, dass Familienmitglieder oft sehr ähnliche Gen-Bestandteile haben. Erst nach einem langen Rechtsstreit wurde der Quellcode der Software öffentlich. Für neue Fälle wird diese mittlerweile nicht mehr eingesetzt.

Hierzulande wird immer wieder der Ruf nach einem "Algorithmen-TÜV" laut. Bundesjustizminister Heiko Maas (SPD) forderte wiederholt, dass "kein Mensch zum Objekt eines Algorithmus'" werden dürfe und brachte dafür ein Gesetz ins Gespräch. Die gescheiterten Sondierer für eine Jamaika-Koalition hatten vereinbart, "Diskriminierungsverbote in der analogen Welt auch in der digitalen Welt der Algorithmen" umsetzen zu wollen. (anw)

Anzeige
Anzeige