Künstliche Intelligenz: UNO fordert Einsatzstopp, um Privatsphäre zu schützen

Sie sind müde, nervös oder sehen nur so aus? So etwas gehört nicht in die digitale Personalakte, meint das UN-Menschenrechtsbüro. Grafik: Gerd Altmann auf Pixabay (Public Domain)

Vereinte Nationen fordern Moratorium für Einsatz von Gesichtserkennungssoftware im öffentlichen Raum und biometrische Massenüberwachung

"Reclaim your face" lautet die Überschrift der Petition einer Europäischen Bürgerinitiative gegen biometrische Massenüberwachung, die seit mehr als einem halben Jahr läuft und ein Verbot dieser Praxis durch die EU zum Ziel hat. Von einer Million angestrebten Unterschriften waren bis zum heutigen Tag um die Mittagszeit zwar nur 60.390 zusammengekommen, dafür nimmt sich inzwischen auch die UN-Hochkommissarin für Menschenrechte und ehemalige Präsidentin Chiles, Michelle Bachelet, des Themas an.

Am Mittwoch forderte das Genfer Menschenrechtsbüro der Vereinten Nationen zumindest ein Moratorium für den Einsatz bestimmter Formen Künstlicher Intelligenz (KI) - etwa Gesichtserkennungssoftware - bis entsprechende "Absicherungen" geschaffen wurden. Der Schutz von Bürger- und Menschenrechte müsse beim Verkauf und beim Einsatz der Technologien sichergestellt werden. Die Wahrnehmung anderer Rechte, etwa auf Gesundheit, Bildung, Bewegungsfreiheit, friedliche Versammlungsfreiheit und Meinungsfreiheit sei eng mit dem Recht auf Privatsphäre verbunden, betonte das UN-Menschenrechtsbüro.

"Dass KI das Leben von Menschen verändert, definiert oder schädigt, ist schon jetzt ein echtes Risiko", warnte Bachelet bei der Vorstellung eines Berichts zum Thema "Das Recht auf Privatsphäre im digitalen Zeitalter".

Unfreiwilliger Seelen-Strip und Diskriminierung

Darin wird unter anderem kritisiert, dass persönliche Daten oft aufgrund von Rechenmodellen verarbeitet werden, die mit historischen Vorurteilen behaftet sind. Suchergebnisse des Online-Giganten Google würden beispielsweise Frauen und Minderheiten benachteiligen, so könne sich ein unverhältnismäßiger Fokus der Polizeiarbeit auf bestimmte Minderheiten verstetigen.

Wer keiner Minderheit angehört, muss zumindest damit rechnen, dass sein Verhalten möglichst umfassend analysiert wird, als gelte es, doch noch verdächtige Eigenheiten oder wenigstens Schwächen zu finden:

KI-Tools werden häufig verwendet, um Einblicke in menschliche Verhaltensmuster zu gewinnen. Mit dem Zugriff auf die richtigen Datensätze ist es möglich, Rückschlüsse darauf zu ziehen, wie viele Menschen in einer bestimmten Nachbarschaft wahrscheinlich eine bestimmte Kultstätte besuchen, welche Fernsehsendungen sie möglicherweise bevorzugen und sogar ungefähr, zu welcher Zeit sie aufwachen und gehen schlafen. KI-Tools können weitreichende Rückschlüsse auf Einzelpersonen ziehen, einschließlich ihrer geistigen und körperlichen Verfassung, und können die Identifizierung von Gruppen ermöglichen, beispielsweise von Personen mit bestimmten politischen oder persönlichen Neigungen.

The right to privacy in the digital age / Report of the United Nations High Commissioner for Human Rights

Es seien bereits KI-Tools entwickelt worden, die angeblich den emotionalen und mentalen Zustand von Menschen aus ihrer Mimik und anderen "prädiktiven Biometrien" ableiten können, um auf dieser Grundlage Entscheidungen zu treffen, heißt es in dem Bericht.

KI als Sortierhilfe für Personalabteilungen

Eine Reihe von Unternehmen zeige bereits wachsendes Interesse an der Überwachung und Verwaltung von Beschäftigten mithilfe digitaler Technologien - einschließlich KI-Systemen, um mehr Informationen über Mitarbeitende oder auch Bewerberinnen und Bewerber zu gewinnen. Im Extremfall kann so die Entscheidungsfindung für Einstellungen, Beförderungsprogramme oder Entlassungen automatisiert werden.

Während der Schwerpunkt solcher Technologien auf der Kontrolle von arbeitsbezogenem Verhalten und Leistung liegt, erstreckt sich laut dem UN-Bericht eine Reihe von Anwendungen der KI-Systeme auch auf nicht-berufsbezogenes Verhalten und entsprechende Daten. Die Covid-19-Pandemie habe diesen Trend in zweierlei beschleunigt: Erstens erhöben einige Unternehmen, die Beschäftigten "präventive Gesundheitsprogramme" anbieten, zunehmend gesundheitsbezogene Daten.

Zweitens würden mehr Prozesse digital ausgeführt und die Arbeitsplatzüberwachung durch KI-Systeme auf die Wohnungen der Menschen ausgeweitet. "Beide Trends erhöhen das Risiko, die Daten aus der Arbeitsplatzüberwachung mit nicht berufsbezogenen Dateneingaben zu verschmelzen", heißt es in dem Bericht. Verwiesen wird hier vor allem auf Fachartikel aus den USA.

Betont wird in diesem Zusammenhang auch, dass Entscheidungen auf dieser Grundlage nicht fehlerfrei sind. Relevanz und Genauigkeit der verwendeten Daten seien oft fragwürdig. So könnten in anderen Bereichen auch unrealistische Erwartungen geweckt werden, beispielsweise für den Einsatz im Gesundheitswesen. Eine Analyse von Hunderten von medizinischen KI-Tools zur Diagnose und Vorhersage von Covid-19-Risiken habe zum Beispiel ergeben, dass keines von ihnen für den klinischen Einsatz geeignet sei.

Die EU-Kommission hatte bereits im April einen verbindlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz vorgeschlagen. Deren Exekutiv-Vizepräsidentin Margarete Vestager sprach dabei von "ethischer Technik", aber auch davon, dass die EU "hierbei wettbewerbsfähig" bleiben müsse.

In dem vorgeschlagenen Regelwerk ist die Rede von "Verpflichtungen zu Ex-ante-Tests, Risikomanagement und menschlicher Aufsicht", um das Risiko fehlerhafter oder voreingenommener KI-Entscheidungen "in kritischen Bereichen wie Bildung und Ausbildung, Beschäftigung, wichtige Dienste, Strafverfolgung und die Justiz" zu minimieren. Je größer die potenziellen Gefahren einer Anwendung, desto strenger soll sie demnach reguliert werden, soweit die Theorie. Das UN-Büro schlägt vor, diesen Ansatz für globale Standards zu übernehmen. Bevor diese Kontrollmechanismen sich durchsetzen, sollten die Programme laut Bachelet nicht mehr eingesetzt werden.

Allerdings haben die Vereinten Nationen schon viele Vorschläge gemacht, die sich weder weltweit noch in allen "westlichen Demokratien" durchsetzen konnten: UN-Generalsekretär António Guterres forderte im Zuge der Corona-Pandemie sowohl einen weltweiten Waffenstillstand als auch die Freigabe von Impfstoffpatenten.

(Claudia Wangerin)