c't 2/2018
S. 14
News
Überwachung
Aufmacherbild

Bessere Zensuren

Konformitätserziehung per sozialem Punktesystem

Stellen Sie sich vor, Ihre Schufa-Daten, Amazon-Käufe, Facebook-Kontakte, Flensburg-Punkte und Dating-Profile würden zu einem öffentlich sichtbaren Punktewert zusammengerechnet. China will seine Bevölkerung damit künftig zu Konformität und Konsum erziehen.

Die Regierung in China plant bis 2020 die Einführung eines staatlichen Social-Credit-Systems. Für jeden Einwohner soll ein individueller Punktewert berechnet werden, der Online-Aktivitäten in staatskonformes Verhalten kanalisiert.

Auf dem 34C3-Kongress in Leipzig erläuterte China-Expertin Katika Kühnreich die Pläne: So existieren bereits acht Bewertungssysteme privater Internet-Konzerne, die mehr und mehr Einfluss auf den Alltag in der Volksrepublik nehmen. Noch ist die Teilnahme freiwillig – ab 2020 soll jeder Bürger jedoch in einem staatlichen Scoring erfasst werden.

Das derzeit am meisten verbreitete System heißt Sesame Credit und gehört zum Handelskonzern Alibaba. Um den Punktestand zu generieren, greift Alibaba zum Beispiel auf die Zahlungshistorie seiner Kunden zu: Wer viel konsumiert und pünktlich zahlt, bekommt einen hohen Wert. Da ein Großteil nicht mehr mit Bargeld, sondern per Smartphone-App oder Instant Messenger bezahlt, kann Alibaba das Konsumverhalten recht lückenlos protokollieren. Wer mehr Daten preisgibt und Freunde zu Sesame Credit einlädt, bekommt ebenfalls einen Bonus.

Kombiniert werden die Daten mit staatlichen Informationen. Säumige Unterhaltszahlungen führen beispielsweise zu Punktabzug. Mit einem niedrigen Score bekommt man dann etwa Probleme, eine Zugfahrt zu buchen. Die beliebte Dating-App Baihe nutzt ebenfalls den Punktewert von Sesame Credit: Wer einen attraktiven Partner finden will, ist gut beraten, seinen sozialen Punktestatus hochzutreiben.

Beim Großteil der Bevölkerung kommt das offenbar gut an. Die Social-Credit-Systeme verstärken sich dabei selbst. So ist der Punktewert eines Bürgers etwa davon abhängig, wie der eigene Freundeskreis abschneidet. Sprich: Wer einen schlechten Wert hat, dem droht die soziale Isolation. „Wenn dieses System einmal verpflichtend geworden ist, wird es das Leben jedes Bürgers bestimmen – und das seines Umfeldes“, warnt Katika Kühnreich. Die Algorithmen zur Berechnung der Scores sind indes geheim. Die chinesische Regierung evaluiert derzeit noch, welche Faktoren in das staatliche System einfließen sollen.

Scoring-Wucher im Westen

Während China Überwachung unter staatliche Kontrolle stellt, wuchert sie in westlichen Industrienationen unkontrollierbar. IT-Kritiker Tijmen Schep zeigte in Leipzig die schädlichen Folgen des rapide gestiegenen Datenhandels auf. Neue Daten-Diebstähle und -Leaks zerrten die bislang geheimen Geschäftspraktiken der Datenbroker ans Licht. In den USA, so Schep, würden für jeden Bürger inzwischen 8000 geheime Scoring-Werte von Privatfirmen erhoben, in Europa seien es immerhin 600. Berechnet würden die Bewertungen über undurchsichtige KI-Algorithmen.

Immer mehr Behörden beziehen solche Datenprofile und Social-Media-Auswertungen in ihre Arbeit ein. Mit dem Wissen aus den Snowden-Enthüllungen steige bei den Bürgern jedoch auch die Angst, irrtümlich ins Visier der Behörden zu geraten – nur weil man online vermeintlich verdächtige Spuren hinterlässt. So konnten Forscher einen signifikanten Rückgang der Abrufe von Wikipedia-Artikeln zu Terror-Organisationen beobachten. Schep nennt dies die neue Klickangst, die einer vorauseilenden Selbstzensur gleicht.

Archaische Methoden

Viele totalitäre Regime bemühen sich, die Kontrolle durch soziale Netzwerke zu verstärken. Die iranische Regierung drängt die einheimische Wirtschaft deshalb dazu, Konkurrenzdienste zu westlichen Plattformen bereitzustellen. Wie die Internet-Forscherin Mahsa Alimardani in Leipzig erklärte, werden neuerdings Bürger, die mehr als 5000 Follower haben, dazu verpflichtet, sich bei staatlichen Stellen zu registrieren. Teheran hat mit seiner Praxis bislang aber kaum Erfolg, da die Bevölkerung den einheimischen Facebook- und Twitter-Kopien die kalte Schulter zeigt.

Wie beschränkt der Einfluss der Regierung auf die sozialen Netzwerke ist, zeigte sich denn auch bei den Protesten zur Jahreswende. Teheran griff deshalb auf erprobte Zensurmethoden zurück und sperrte zeitweise die Messenger-Dienste Telegram und Instagram. Die Begründung: Auf den Plattformen sei zu Gewalttaten aufgerufen und der Bau von Molotow-Cocktails erklärt worden. (hag@ct.de)

Kommentare lesen (8 Beiträge)