Menü

Missing Link: Nothing to Hide, oder: Wie mit "Social Scoring" die Privatsphäre abgeschafft wird

Datenschutz? Ach, komm: Was bleibt angesichts datengetriebener IT-Großprojekte zur Durchleuchtung der gesamten Bevölkerung noch vom Wesen der Privatheit?

Von
vorlesen Drucken Kommentare lesen 326 Beiträge
Missing Link: Nothing to Hide, oder: Wie mit "Social Scoring" die Privatsphäre abgeschafft wird

(Bild: BABAROGA/Shutterstock.com)

Während in Deutschland über Fingerabdrücke in Pässen und Ausweisen, Scoring zur Bonitätsprüfung durch die Schufa und andere Auskunfteien oder das Bürgerkonto sowie vernetzte Verwaltungsregister nebst Personenkennziffer heftig gestritten wird, machen vor allem asiatische Staaten in derlei Fragen Nägel mit Köpfen. So soll in der Volksrepublik China bis 2020 ein umfassendes Bewertungssystem für Bürger und Unternehmen entstehen. In mehreren Provinzen laufen Tests für eine solche "Schufa auf Anabolika", insbesondere der E-Commerce-Riese Alibaba hat mit "Sesame Credit" eine Vorlage dafür geliefert. Indien hat parallel die gigantische Biometriedatenbank Aadhaar aufgebaut und viele Verwaltungsleistungen daran geknüpft.

Der Datenschutz wird in Asien meist nicht so groß geschrieben wie in Deutschland oder Europa, doch was bleibt angesichts solcher datengetriebener IT-Großprojekte zur Durchleuchtung der gesamten Bevölkerung noch vom Wesen der Privatheit? Ist Orwells negative Utopie "1984" damit endgültig im großen Maßstab Realität geworden? So lautete auch die Kernfrage einer Podiumsdiskussion der liberalen Friedrich-Naumann-Stiftung während der Asien-Pazifik-Wochen jüngst in Berlin. "Das Schreckgespenst des gläsernen Bürgers scheint näher zu kommen", erklärte der Veranstalter. Lasse sich da noch von einem Selbstbestimmungsrecht über die eigenen Daten reden?

Das geplante System zur sozialen Bewertung in China ("Social Credit") basiere im Kern auf den Scoring-Verfahren der Finanzwirtschaft, erläuterte Mareike Ohlberg vom Mercator Institute for China Studies (MERICS). Dabei handelt es sich um eine statistische Technik, mit der menschliches Verhalten nach bestimmten Kriterien mathematisch ausgewertet und beurteilt wird. Ermittelt werden soll dabei auf Basis bisherigen Betragens, wie gut sich jemand künftig als Kunde eignet, also ob er Kredite abzahlt, generell viel Geld ausgibt oder oft Waren reklamiert. In Sekundenschnelle wird dann automatisiert mithilfe einer solchen Wahrscheinlichkeitsprognose online entschieden, ob jemand etwa per Vorkasse zahlen muss oder einen Handy-Vertrag zu welchen Bedingungen erhält. Ganz ähnlich funktionieren die Empfehlungssysteme von Amazon, YouTube und Co.

Hinzu kommt beim skizzierten "Citizen Score" in China die Komponente, dass das menschliche Verhalten gesteuert, also sozial oder politisch erwünschtes Verhalten gefördert werden soll. Derzeit gebe es Pilotprojekte in über 40 Städten im Reich der Mitte, bei denen man etwa für Bürgerarbeit Punkte sammeln könne. Wer sich "falsch" verhalte, müsse dagegen mit einem schlechteren Scorewert rechnen. Am bekanntesten sei ein Test in der Millionenmetropole Rongcheng in der östlichen Provinz Shandong. Dort würden die Bürger mit Werten von "AAA" bis "D" analog zu den Einstufungen von Finanzanalysten für die Kreditwürdigkeit von Staaten oder Unternehmen bedacht.

Zu den weiteren Versuchskaninchen zähle die Großstadt Suzhou in der Provinz Jiangsu, führte die China-Expertin Ohlberg aus. Dort arbeite die lokale Verwaltung mit Alibaba zusammen. Wie viele und welche Daten dabei ausgetauscht würden, sei genauso unbekannt wie die genauen Kriterien für die Bürgerbewertung. Zu hören sei, dass der Score gedrückt werde, wenn man etwa in einem Online-Computerspiel fluche, generell zu viel Zeit mit derlei unterhaltsamen Aktivitäten verbringe oder ein Taxi rufe und dann nicht erscheine.

Welches System letztlich 2020 eingeführt wird, steht Ohlberg zufolge in den Sternen. Dass die Sozialanalyse aber kommen werde, daran lasse Peking keinen Zweifel. In den chinesischen Medien werde die Initiative überwiegend positiv begleitet und als "Lösung für alle Vertrauensfragen" etwa in den Bereichen Gesundheit, Essensversorgung oder Produktsicherheit gelobt. Fester und übergreifender Bestandteil der Tests sei schon jetzt eine "schwarze Liste": Wer sich darauf befinde, könne in ganz China keine Hochgeschwindigkeitszüge mehr nutzen, nicht mehr fliegen oder seine Kinder auf eine bessere Schule schicken. Zudem laufe man bei "Missverhalten" wie einer Straßenüberquerung bei roter Ampel Gefahr, sein Gesicht in der Öffentlichkeit an den Pranger gestellt zu sehen.

"Noch nie ist ein Land der Vision einer umfassenden Erziehungsdiktatur so nah gekommen wie China", schreibt der Stern. Es sei zu erwarten, dass in die "Schufa für alle Lebenslagen" alle Daten einflößen, die der Staat und ihm nahe Firmen in die Finger bekämen. Für die Zeit und von ihr befragte Bürgerrechtler steht außer Frage, dass die chinesische Führung mit dem Ansatz nicht nur den "kommunistischen Musterbürger" heranziehen, sondern auch die "totale Kontrolle" erreichen will.

Ohlberg schätzt, dass Teile der bisherigen Projekte der Regierung und staatsnaher Unternehmen in dem finalen System zusammenfließen. Dabei dürfte der Aspekt, Personen mit unerwünschtem sozialen Verhalten beim Namen zu nennen und öffentlich vorzuführen, noch verstärkt werden. Verschiedene Gesichtspunkte der laufenden Versuche erinnerten an Big Brother.

Von einer vollständigen "digitalen Dystopie" will die Beobachterin noch nicht reden. Es zeichne sich jedoch ab, dass eine Gruppe Bürger 2. Klasse entstehe, die "weniger Zugang zu Leistungen und mehr Verpflichtungen" haben werde. In einer Kommune sei ein Pilotprojekt so schon nach Protesten aus der Bevölkerung abgebrochen worden. Generell halte sich der Widerstand aber in Grenzen, da kritische Debatten im Internet angesichts der staatlichen Zensur sowie der "Selbstregulierung" der nationalen Online-Plattformen "zurückgedreht" würden.

Bei einer Analyse der Diskussionen über die erweiterte Bonitätsprüfung in offiziellen Medien sowie Blogs und Foren im ersten Halbjahr 2017 kamen Forscher vom MERICS zu dem Ergebnis, dass die Zahl negativer Beiträge zu dem Thema gering war. Eine Ausnahme sei eine Auseinandersetzung darüber gewesen, wie Bewertungen bei Sesame Credit entstehen und mit welchen Tricks Nutzer ihren Score verbessern können. In den chinesischen Medien sei "gesellschaftliche Bonität" zu einem politischen Modewort geworden, das von der Zentralregierung und den Provinzbehörden ebenso häufig verwendet werde wie von Finanzinstitutionen oder Universitäten.

(Bild: Gerd Altmann, gemeinfrei)

Das vom Staatsrat seit 2014 mit Nachdruck vorangetriebene System wird laut den Wissenschaftlern vor Ort hauptsächlich als "Allheilmittel für verschiedene Probleme von Gesellschaft und Regierungsführung gesehen". Es solle helfen, Korruption zu bekämpfen und Sozialrüpel zur Vernunft zu bringen. Eine von "unzuverlässigen Elementen" bedrohte Gesellschaft könne – so der offizielle Tenor – durch den Bürgerscore "zum Besseren verändert werden". Dahinter stehe "ein fester Glaube der chinesischen Regierung an die Technik und die Unfehlbarkeit der Big-Data-getriebenen Technologie". Informationssysteme und digitale Sensoren seien demnach "objektive und unfehlbare Prüfinstanzen".

In Blog- und Social-Media-Berichten werden der Untersuchzug zufolge die "unwägbaren Eigeninteressen kommerzieller Akteure", die nicht immer gewährleistete Qualität der gesammelten Daten sowie fehlende Vorgaben zur Standardisierung erhobener Informationen kritisiert. Auch Probleme und Risiken wie Korruption in lokalen Regierungen, Verletzungen der Privatsphäre und fehlende Vorkehrungen zum Schutz personenbezogener Daten kämen zur Sprache. Nicht hinterfragt werde, dass Algorithmen "moralische Urteile" fällten, die sich "auf das gesellschaftliche Zusammenleben insgesamt auswirken" könnten.

Aufsehen erregt habe ein Beitrag auf dem Portal Sina Weibo über eine ganz neue Form von Schwarzmärkten. Demnach könnten Nutzer der Bezahllösung Alipay Hacker anheuern, um ihren Sesam-Kredit-Score aufzuhübschen. Die User müssten dafür nur ihre Benutzernamen und Passwörter bereitstellen. Die Computertüftler, die sich längst eine goldene Nase verdienten, veränderten dann die Profile, indem sie deren Inhabern "virtuellen" Immobilienbesitz, angesehene Freunde, teure Autos oder den Abschluss einer Elite-Universität zuschrieben. Sollte dies stimmen, drohe dem System mittelfristig ein Vertrauensverlust. Zudem sei dessen Sicherheit angesichts hoher Risiken für Identitätsdiebstahl oder Datenmissbrauch stark gefährdet.

Die MERICS-Forscher haben ferner herausgefunden, dass in sozialen Netzwerken die Alibaba-Finanztochter Ant Financial dafür gerügt wird, sich deutlich mehr Daten einzuverleiben, als für die Bonitätsprüfung nötig. IT-Profis und Wissenschaftler beklagten vor allem, dass die eingesetzten Algorithmen, nicht offenliegen. Insgesamt lasse die Transparenz zu wünschen übrig: Die Nutzer könnten nicht in Erfahrung bringen, welche Informationen Ant Financial über sie sammle und an wen der Anbieter diese möglicherweise weitergebe.

Bei Alipay und der ebenfalls mit einer mobilen Bezahllösung aufwartenden Alternative WeChat des Konkurrenten Tencent handelt es sich nicht um einfache Apps, sondern um digitale Ökosysteme. Sie sind fast vergleichbar mit den App-Stores von Googles Android oder Apples iOS. Über die Anwendungen lassen sich direkt vielbenutzte Dienste von Airbnb über den Fahrservice Didi bis zu dessen Vorbild Uber abrufen und bezahlen.

So kommen umfangreiche Nutzungsdaten zusammen, die bei Alipay gleich in das eigene "Sesam öffne dich" einfließen dürften. Hilfreich dabei ist, dass Ant Financial etwa als strategischer Investor beim Fahrradverleihservice Ofo fungiert. Die Mutterfirma Alibaba beherrscht wiederum nicht nur den Online-Handel, sondern ihr gehören längst auch viele Supermärkte in der physikalischen Welt. Über die so bei dem Konzern etwa anfallenden Bewegungs- und Einkaufsdaten kann dieser umfassende Persönlichkeitsprofile erstellen.

(Bild: Gorodenkoff/Shutterstock.com)

Mehrere hundert Millionen Alipay-Nutzer haben sich bereits dafür entschieden, "Zhima Credit" zu aktivieren und sich dafür durchleuchten zu lassen. Dahinter steht die Hoffnung, mit den eigenen Daten auf "magische Weise" das ein oder andere Türchen öffnen zu können. Einige User dürften aber enttäuscht werden: Bekannt ist, dass Ant Financial zumindest an einem Punkt bereits mit der Zentralregierung zusammenarbeitet und eine schwarze Liste für rund sechs Millionen Chinesen in Sesam-Kredit integriert hat, die Gerichtsgebühren und Finanzbußen nicht gezahlt haben.

Laut der staatlichen Nachrichtenagentur Xinhua hat diese Kooperation schon geholfen, über 1,2 Millionen solcher "Sünder" zu bestrafen. Die Kommunistische Partei hatte gleich 2014 die Losung ausgegeben, dass das Social-Credit-System Diskreditierten keinen Platz mehr in der Gesellschaft lassen solle.

Die "New York Times" berichtete daher voriges Jahr über einen "Aufschrei" zahlreicher Alipay-Anwender, als Ant Financial sie beim Abruf einer Übersicht ihrer Ausgaben und regionaler Vergleichszahlen automatisch in das Sesam-Kredit-Programm übernahm. Die Firma habe sich in Folge angesichts kursierender Boykottaufrufe gezwungen gesehen, die Umstellungen zu revidieren.

Die Zeitung hat in dem Protest in China den Auftakt einer noch jungen, aber wachsenden Bewegung für Privatheit und Datenschutz im Internet ausgemacht. Vielen Bürgern sei bewusst geworden, dass Tencent und Alibaba Informationen über das Verhalten ihrer Kunden mit öffentlichen Stellen teilten und sich von jeder Haftung davon in ihren Geschäftsbedingungen freisprächen. Die große Macht der Online-Riesen in der vernetzten Welt wecke vermehrt Bedenken. Für viele Nutzer sei ein Leben insbesondere ohne WeChat kaum mehr vorstellbar, da sie die App im Alltag ständig für schier alle Belange einsetzten.

WeChat kommt mittlerweile auf über eine Milliarde User, Alipay auf mehr als 500 Millionen. Die Giganten gehen nun dazu über, sich allgemein als Verwalter digitaler Identitäten aufzustellen. Zumindest drei chinesische Provinzen haben bereits angekündigt, elektronische Ausweise für ihre Bürger unter Einsatz der Gesichtserkennungstechniken von WeChat oder Alipay auszugeben. Die mobilen eIDs können dann nicht nur die obligatorischen Identitätskarte ersetzen, sondern auch für die Registrierung für Internet-Cafés und Reisebuchungen oder bei Sicherheitsüberprüfungen herangezogen werden.

Sin Chung-kai, Gründungsmitglied der demokratischen Partei Hongkongs, vergleicht diese Situation mit einem Szenario, in dem Facebook oder Amazon mit der US-Regierung kooperierten, für diese die in den USA als Ausweisersatz herangezogenen "Social Security"-Nummern elektronisch vergäben, mit Gesichtserkennung bündelten sowie alle generierten Informationen jahrelang speicherten. Zu bedenken sei zudem, dass in China alle Transaktionen der Bezahlsysteme über ein "Clearinghouse" laufen müssten und damit komplett zentral ausgewertet werden könnten.

Parallel würden in China alle Mobiltelefone registriert, anonyme SIM-Karten seien nicht erlaubt, unterstreicht Sin. Dazu kämen rund 176 Millionen Überwachungskameras im öffentlichen Raum, die bis 2020 auf 626 Millionen aufgestockt werden sollten. In Peking liege die Abdeckungsquote schon bei 100 Prozent. Aufnahmen aus Kameras und Nummernschild-Scannern etwa an Autobahnen würden automatisiert mit polizeilichen Datenbanken abgeglichen.

(Bild: HQuality/Shutterstock.com)

Hinzu trete in immer mehr Städten eine biometrische Gesichtserkennung. Nicht zu vergessen sei, dass alle Router, Switches, Server und Virtual Private Networks (VPN) in weiten Teilen Chinas genehmigt werden müssten. Es gebe Verordnungen für Foren, Live-Streaming, Content-Management-Systeme oder Online-Kommentare, deren Einhaltung teils mithilfe Künstlicher Intelligenz (KI) kontrolliert werde.

Hongkong hält laut dem früheren Vorsitzenden der Technologie-Kommission der Sonderverwaltungszone die Bürgerrechte noch höher. Die einstige britische Kronkolonie habe als erste Region Asiens ein umfassendes Datenschutzgesetz erlassen, das sich an der einschlägigen EU-Richtlinie von 1995 orientierte.

Nun versuche man, auch mit der neuen Datenschutzgrundverordnung Schritt zu halten, um eine Basis für den Datenaustausch mit Europa zu haben. Ohne spezielle Erlaubnis dürften Ämter in Hongkong Informationen über die Bürger nicht einfach untereinander weitergeben. Dienste wie Alipay müssten ihre Daten vor Ort aufbewahren. Wie lange diese Sonderregeln noch aufrechterhalten werden könnten, wisse aber niemand.

Daten aus der Videoüberwachung und zahlreichen Online-Quellen fließen in China selbst derweil laut einem Bericht der "Washington Post" in eine umfassende "Polizei-Cloud", mit deren Hilfe auch Software für "Predictive Policing" entwickelt werde. Spezialanbieter von Anwendungen zur Gesichtserkennung überschlagen sich mit Meldungen, wie viele potenzielle Verbrecher den Ordnungshütern mit ihrer Hilfe bereits ins Netz gegangen seien.

Face++-Hersteller Megvii spricht landesweit von mehreren tausend Verhaftungen Verdächtiger seit Start des Programms 2016, der Konkurrent SenseTime von 69 suspekten Individuen, die allein während eines Monats im Rahmen eines Pilotprojekts in der 30-Millionen-Metropole Chongqing verhaftet worden seien. Bei Konzerten soll die Polizei laut offiziellen Angaben dank Gesichtserkennungssoftware bereits Flüchtige ausfindig gemacht und wieder eingekerkert haben.

(Bild: Ryan DeBerardinis / Shutterstock.com)

Gesichtserkennungsscanner sorgen in einer Toilettenanlage des Himmelstempels in Peking dafür, dass kein Klopapier verschwendet wird. In einem Schnellrestaurant in Hangzhou muss man nur "lächeln" vor der Kamera, um sein Fast Food zu bezahlen. Im Gymnasium Nummer 11 der unweit von Schanghai gelegenen Großstadt tasten drei Kameras in einem Klassenzimmer alle 30 Sekunden die Gesichter von Schülern ab, um ihren Ausdruck zu analysieren und Stimmungen wie Überraschung, Traurigkeit, Ärger, Freude oder Angst zu erkennen. Ein Bildschirm zeigt dem Lehrer in Echtzeit daraus gewonnene Werte an. Der Computer warnt dabei davor, wenn die errechnete Aufmerksamkeit der Beobachteten unter ein gewisses Limit fällt.

Für westliche Beobachter steht zusammengenommen fest: Die Freiheit, vom Staat in Ruhe gelassen zu werden, schwindet in China endgültig. Die einheimischen Internetgiganten müssen sich den Vorwurf anhören, durch ihre Techniken zu Menschenrechtsverletzungen beizutragen. "Unter einer autoritären Regierung wie in China verwandelt die digitale Überwachung einen lästigen Polizeistaat in einen furchteinflößenden, alleswissenden", resümiert der Economist.

Vor allem im autonomen Gebiet Xinjiang wende Peking KI und Massenüberwachung an, um ein "Panoptikum des 21. Jahrhunderts" zu schaffen und Millionen der dort ansässigen muslimischen Uiguren zu kontrollieren. Die Städte in der Region seien alle 100 bis 200 Meter mit Kameras gespickt, die türkischstämmige Bevölkerungsgruppe müsse staatliche "Spyware" auf ihren Smartphones installieren, ihre Ausweise würden mit Zusatzangaben wie Fingerabdrücken. Blutgruppe, DNA-Informationen oder einem "Zuverlässigkeitsstatus" verknüpft.

Indien schicke sich an, den Nachbarn im Norden im Bereich der Bevölkerungskontrolle zu kopieren oder gar zu übertreffen, moniert Mishi Choudary, Präsidentin des Software Freedom Law Center India. So baue die Regierung mit der zentralen Mega-Datenbank Aadhaar ("das Fundament") gerade ein Identifikations- und Überwachungssystem nie gekannten Ausmaßes auf.

Rund 1,1 von knapp 1,3 Milliarden Indern habe schon eine entsprechende biometrische Kennung und sich dafür Fingerabdrücke sowie Aufnahmen der Iris oder des Gesichts abnehmen lassen. Ausgegeben werde das Ganze als "patriotisches Projekt", was Kritik erschwere. Letztlich seien aber wohl die Inder selbst damit das eigentliche Produkt und im Einklang mit den vorherrschenden Regeln der Plattformökonomie würden ihre Daten früher oder später an Dritte verkauft.

Die Registrierung für Aadhaar sollte ursprünglich freiwillig sein. Inzwischen ist sie aber Voraussetzung dafür, um in den Genuss hunderter staatlicher Leistungen vom Bezug von Reisrationen für Hungerleidende über die Sozialhilfe und Rente bis hin zu Schulprüfungen zu kommen. Die Wirtschaft zieht mit: Auch wer ein Bankkonto eröffnen, einen Kredit erhalten, ein Mobiltelefon registrieren oder eine Reise buchen will, muss oft erst die zwölfstellige eindeutige Nummer vorlegen, die mit den zugehörigen persönlichen Basisinformationen und biometrischen Daten verbunden ist. Wer keine Aadhaar-Kennung hat, existiert für die Verwaltung und zahlreiche Firmen gar nicht mehr.

Selbst von Neugeborenen werden in Kliniken oft die einschlägigen Körpermerkmale erhoben, obwohl diese noch nicht richtig ausgebildet sind. Viele Ältere wiederum haben nach einem Leben voller harter Handarbeit keine maschinell lesbaren Fingerabdrücke mehr. Vor allem in ländlichen Teilen des Subkontinents gibt es zudem Probleme mit den Internetverbindungen, die nötig sind, um sich mit dem Zentralregister zu verbinden. Forscher haben herausgefunden, dass es im Bundesstaat Jharkhand 20 Prozent der Haushalte nicht gelang, ihre Essensrationen mithilfe einer Aadhaar-gestützten Verifizierung zu bekommen.

(Bild: Gerd Altmann, Lizenz Public Domain (Creative Commons CC0))

Auch die Sicherheit des Systems ist mehr als fraglich. Berichten zufolge soll eine Einsichtnahme in das Kernverzeichnis mit den besonders sensiblen Biometriedaten schon für ein paar Euro verscherbelt worden sein. Zudem gab es Datenabflüsse über Hunderte darauf zugreifende Regierungswebseiten. Es sei nur eine Frage der Zeit, bis das aufgeblasene System in Grund und Boden gehackt werde, glaubt Choudary. Mehrere hunderttausend Duplikate der Identitätsnachweise seien bereits erstellt worden. Zum Glück gebe es in Indien aber eine "lebhafte Zivilgesellschaft", sodass nach vielen Verfassungsbeschwerden nun mit großer Spannung die Entscheidung des Obersten Gerichtshofs erwartet werde. In einem in dem Rechtsstreit bereits ergangenen Beschluss hatte dieser voriges Jahr zunächst die Privatsphäre als Grundrecht für alle Bürger des Landes anerkannt und damit eigene frühere Beschlüsse revidiert.

Premierminister Narendra Modi sowie der mit IT-Dienstleistungen reich gewordene "Aadhaar-Vater" Nandan Nilekani feiern das Programm dagegen als Indiens Ticket in die Zukunft. Millionen ihrer Landsleute erhielten damit erstmals eine nachweisbare Identität, die Korruption und das Erschleichen staatlicher Leistungen könnten effizienter bekämpft werden. Für sie handelt es sich um ein großes digitale Infrastrukturprojekt, das mit dem Bau von Autobahnen und Stromleitungen vergleichbar ist. Transaktionsdaten würden zudem nicht geteilt, Ämter dürften sämtliche Informationen rund um Aadhaar ohne weitere Zustimmung der Betroffenen nur "zweckgebunden" verwenden.

Alles schön und gut, entgegnet die Bürgerrechtlerin Choudary, aber für diese Ziele könnte das Projekt viel datensparsamer angelegt werden. Es würde ausreichen, die biometrischen Merkmale allein auf der Identitätskarte und nicht zentral zu speichern. Der Verdacht liege daher nahe, dass es den staatlichen und privaten Beteiligten doch um eine möglichst lückenlose Verhaltenskontrolle der gesamten Bevölkerung gehe.

Aber nicht nur Bürgerrechtler in Asien gehen auf die Barrikaden. Auch in westlichen Industrieländern beobachtet man die mehr oder weniger offen zur Schau getragenen Begehrlichkeiten von Sicherheitspolitikern mit Sorge: Könnten sie sich doch China und Indien als Vorbild nehmen – man lebe schließlich nicht in einer Diktatur, müsse aber für die Sicherheit der Bevölkerung sorgen. Das erinnert fatal an das einst vom damaligen Bundesinnenminister Hans-Peter Friedrich proklamierte "Super-Grundrecht Sicherheit". (Stefan Krempl) / (jk)

Anzeige