Menü

Konferenz zum Super-Scoring: Der Mensch als Zahlenwert

Von Chinas Social Scoring über Stimmanalyse zur Krankheits-Diagnose – Scoring-Systeme sind immer bedeutungsvoller. Das hat Auswirkungen auf die Gesellschaft.

Lesezeit: 3 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 45 Beiträge

(Bild: superscoring.de / abc.net.au (Screenshot aus Video))

Von

Scoring-Systeme dienen einerseits dem gesellschaftlichen Vertrauen – ab einem gewissen Grad sind sie jedoch ein Eingriff in die Integrität des Individuums. Bei der Konferenz "Super-Scoring" der Bundeszentrale für Politische Bildung und dem Grimme Institut debattierten Forscher am Freitag in Köln die unterschiedlichen Aspekte der Technik.

Die Diskussion wird derzeit am meisten anhand des Social-Credit Systems in China geführt. Doch die Vortragenden auf der Konferenz waren sich einig, dass die Wahrnehmung des Themas im Westen noch von vielen Missverständnissen geprägt ist. So verwies Mareike Ohlberg vom Mercator Institute for China Studies (MERICS) darauf, dass es sich beim Social Scoring heute noch um eine Reihe provisorischer Systeme handelt – und kein einheitliches, durchweg zentralisiertes System, das in erster Linie zur Aufdeckung von Dissidenten diene.

Yongxi Chen

(Bild: Torsten Kleinz / heise online)

Das System sei aus einem Bedürfnis entstanden, gesellschaftliche Missstände zu beseitigen. So habe es an der Rechtsdurchsetzung gemangelt. Wie Yongxi Chen von der Universität Hongkong ausführte, hatten die heute gebräuchlichen Systeme ihren Ursprung in einem Creditrating ähnlich der hiesigen SCHUFA – ein Mittel, um die eigenen Bürger vor Betrügern zu warnen.

Dieses Schutzsystem nimmt allerdings deutlich andere Formen an: Ohlberg führte als Beispiel an, dass die gerichtlichen Schuldnereinträge an Privatunternehmen weitergegeben werden. Folge ist etwa, dass Anrufer bei manchen Telefongesellschaften zuerst eine Ansage hören, bevor sie zu einer "wirtschaftlich unzuverlässig" eingestuften Person durchgestellt werden.

Larry Catá Backer von der Pennsylvania State University warnte davor, das Social-Credit-System reflexhaft abzulehnen. "In mancher Hinsicht sind wir weit vor den Chinesen – wir lehnen das Scoring jedoch nicht ab, weil es in unserem Wertesystem akzeptiert ist, wenn Privatfirmen Daten erheben", erklärte Backer. Aus chinesischer Sicht werde hier eine etablierte Technik von westlichen Moralvorstellungen befreit.

Jedoch lässt auch ein Perspektivwechsel die chinesischen Scoring-Systeme nicht harmloser erscheinen. So warnte Chen davor, dass durch die Etablierung des Social Scorings die Bedeutung von Gesetzen abnehme. So würden die Änderungen der Rahmenbedingungen der Systeme per Memoranden im Staatsapparat durchgesetzt. Problematisch sei zudem, dass all die in dem System verfügbaren Daten zu einem einzigen Summenwert zusammengefügt werden. Zudem sorge die Vermischung gänzlich unterschiedlicher Systeme dafür, dass die Strafe kaum noch zu den Vergehen passe. Zum Beispiel könne jemandem wegen einer falschen Auskunft auf einer Heiratsurkunde eine Arbeitsstelle als Forscher, Journalist oder Touristenführer verweigert werden.

Ohlberg warnte davor, dass in den Systemen bereits eine Sippenhaft integriert sei: Nicht nur ein Individuum werde für ein vermeintliches Vergehen bestraft, sondern auch das soziale Umfeld. "Die Social-Credit-Systeme sind nur ein Puzzlestück in dem staatlichen Überwachungssystem", erklärte die Sinologin. Allerdings könnten die Systeme natürlich auch zur Abstrafung von Regimegegnern eingesetzt werden. Zudem existierten bereits Angebote, bei denen sich wohlhabendere Kunden bessere Scoring-Werte erkaufen könnten.

Joanna Redden

(Bild: Torsten Kleinz / heise online)

Die Einstufung von Bürgern per Scoring mag in China sichtbarer sein, in Europa gibt es aber durchaus auch die Tendenz, die Durchführung staatlicher Maßnahmen auf Datenbanken und Algorithmen zu übertragen. Die Details bleiben der Öffentlichkeit aber oft verborgen. Joanna Redden von der Cardiff University hat mit ihrem Team eine Bestandsaufnahme für Großbritannien durchgeführt. Dazu durchsuchten die Forscher systematisch veröffentlichte Regierungsdokumente nach Schlüsselwörtern. Wenn ein Scoring-Projekt identifiziert wurde, versuchten die Forscher per Informationsfreiheitsanfragen und Interviews Näheres über die Funktionsweise zu erfahren.

Ein Einsatzgebiet, auf das das Team stieß: Mittels Scoring versuchen Jugendämter, den Missbrauch von Kindern zu reduzieren oder gar zu verhindern. So müssen Jugendämter zum Beispiel nicht mehr in einer Schule anrufen, um die Fehlzeiten eines Schülers zu erfahren. Diese Informationen werden direkt in ein IT-System eingespeist, das von einem privaten Dienstleister betrieben wird. Die Bemühungen, ein System zur Unterstützung von Familien und Kindern effizienter zu machen, habe aber eine Schattenseite, wie Redden ausführte. Die Motivation liege oft in der britischen Austeritätspolitik und neoliberaler Logik.

"Das Problem wird demnach in der individuellen Familie gesehen, anstatt sich gesellschaftliche Probleme anzuschauen", erklärte Redden. Statt tatsächlich individuelle Kindesgefährdung zu bestimmen, werde das Verhalten einer vermeintlichen Unterschicht modelliert, wie auch eine andere Teilnehmerin hervorhob: So schlügen die automatisierten Systeme nicht an, wenn das Kind einer ansonsten gut situierten Familie gefährdet sei.

China: Weniger Repression durch Social-Credit-System?

(Bild: MAGOZ)

Immer aufdringlichere Überwachungstechnik könnte in China paradoxerweise die bürgerlichen Freiheiten stärken.

mehr anzeigen

Ein weiteres Problem liege darin, dass solche Systeme normalisiert werden, bevor die Folgen eruiert worden seien, erklärte Redden. Durch die zunehmende Vernetzung und den unkritischen Einsatz von Scoring-Techniken wird dies auch immer schwieriger. So verwiesen Teilnehmer der Tagung auf eine Vielzahl von Systemen, die schon heute reale Auswirken hätten – von der Parkinson-Diagnose per Stimmanalyse über Schulungssysteme, die das Klickverhalten der Nutzer einbeziehen, um Lernerfolge zu messen, bis hin zum Score-Wert für akademische Publikationen. Forscher behaupten auch, anhand der Analyse weniger hundert Likes auf Facebook genaue Persönlichkeitsprofile erstellen zu können. Angesichts dieser vermeintlichen Macht der Daten stellte sich die Frage: Ist überhaupt ein informierter Konsens zur Datenweitergabe möglich, wie ihn die Datenschutzgesetze vorsehen?




Obwohl es ein unerreichbares Ziel sei, die Bevölkerung vollständig über Risiken und Funktionsweise der Scoring-Systeme zu informieren, plädierte Isabel Zorn dafür, die Bemühungen nicht aufzugeben. So gebe es verstärkende Effekte bei dem Umgang mit den Systemen. "Wer gebildeter ist, kann besser mit Medien umgehen, was wiederum zu besserer Bildung führt", erläuterte Zorn. Wer sozial benachteiligt sei, laufe hingegen Gefahr, von den Entwicklungen überrollt zu werden. Ein erster wichtiger Schritt sei daher, die Medienkompetenz-Bildung von Lehrern und Sozialarbeitern deutlich zu verstärken. (tiw)