Warum Social Media eigentlich wie eine Stadt verwaltet werden sollte

Hassrede, Cybermobbing – und trotzdem eigentlich viel Gutes: Wenn wir Facebook, Twitter & Co. retten wollen, braucht es neue Regeln aus der Offline-Welt.

Lesezeit: 15 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 55 Beiträge

(Bild: Andrea Daquino)

Von
  • Sahar Massachi
Inhaltsverzeichnis

Wer sich in den sozialen Medien tummelt, fühlt sich manchmal so, als würde er oder sie in einer neuen Art von Stadt leben – in der größten Stadt der Welt. Millionen von Menschen können hier Dinge tun, von denen ihre Eltern nicht mal geträumt hätten. Sie können virtuell miteinander leben, miteinander spielen, miteinander lernen. Auf den ersten Blick sieht diese unendliche Metropole aus wie ein Wunderwerk.

Doch schaut man näher hin, zeigen sich in der Stadt der sozialen Medien auch extreme Hässlichkeiten. Ungeklärte Abwässer scheinen durch die Straßen zu fließen. Von Zeit zu Zeit gibt es Aufstände und die Bürger denunzieren sich gegenseitig und ihre Beziehungen untereinander scheinen manchmal unwiderruflich zerrüttet.

Um im Bild zu bleiben: Meine Aufgabe war es, diese Stadt zu schützen. Ich war Mitglied des Facebook-Teams für Civic Integrity – bürgerliche Integrität auf der Plattform. Meine Kollegen und ich untersuchten und behoben Probleme – von der Bekämpfung der Verbreitung von Fake News über Hassrede, Belästigung bis hin zu Aufrufen zu nackter Gewalt.

Mit der Zeit wurden wir zu Experten, wir wandten viele, viele Stunden Manpower und eine riesige Datenbasis an. Wie in jeder anderen Community von Experten hatten wir alle zumindest leicht unterschiedliche Sichtweisen auf das Problem. Ich für meinen Teil begann schließlich, wie ein Stadtplaner zu denken. Und die Stadt muss von Anfang an richtig geplant werden. Sie braucht Stadtteile, die so aufgebaut sind, dass Bewohner, Gesellschaft und Demokratie gedeihen können.

Ein solcher Ansatz scheint sich in der gesamten Social-Media-Landschaft mehr und mehr durchzusetzen: das sogenannte Integrity Design. Für die Integrität zuständige Mitarbeiter wie ich versuchen, ein System gegen Angreifer zu verteidigen, die Fehler oder Schlupflöcher in seinen Regeln oder seinem Design gefunden und gelernt haben, diese zu missbrauchen. Unsere Aufgabe war es, systematisch die Verletzungen einzudämmen, die sich die Nutzer gegenseitig beibringen.

Wir mischen uns dabei (oft) nicht direkt ein und versuchen nicht, Entscheidungen über bestimmte Beiträge oder Personen zu treffen. Stattdessen denken wir über Anreize, Informationsökosysteme und soziale Systeme im Allgemeinen nach. Dabei zeigt sich: Die Social-Media-Firmen müssen der Gestaltung hin zur Integrität Vorrang vor der Moderation von Inhalten einräumen. Wenn sie das nicht tun, sollte sich die Öffentlichkeit dagegen wehren.

Lassen Sie uns aber zunächst einen Schritt zurückgehen: Wenn soziale Medien eine neuartige Stadt sind, warum ist sie dann so schwer zu regieren? Warum schließen sich in realen Städten nicht Millionen von Bürgern plötzlich irgendwelchen Sekten an? Warum funktionieren dort Konferenzen oder Clubs ohne viel Belästigung und Propaganda? Warum wird dort nicht offen für Neonazis rekrutiert? Mit anderen Worten: Was hat die physische Stadt, das die virtuelle nicht hat?

Die Antwort ist einfach: echte, physische Grenzen. Als Gesellschaft haben wir eine Kombination aus Regeln, Normen und Gestaltungsmustern entwickelt, die mehr oder weniger funktionieren, um bestimmte Arten schrecklichen Verhaltens einzudämmen. Diese Regeln setzen aber voraus, dass wir keine physischen Superkräfte entwickelt haben. Online haben die Menschen diese jedoch tatsächlich. Sie können sich klonen (Bot-Armeen), teleportieren (die Fähigkeit, an vielen Orten gleichzeitig zu posten), sich unerkennbar verkleiden (sogenannte Sockenpuppen) – und vieles mehr. In einer physischen Stadt ist ein einzelner Propagandist durch seine stimmliche Ausdauer (oder seine Geldbörse) begrenzt.

In unserer Online-Stadt kann ein und dieselbe Person jede Stunde kostenlos in 400 Gruppen (mit Zehntausenden von Menschen) posten. In einer physischen Stadt erfordert die Annahme einer neuen Identität viel Schminke oder eine Verkleidung, gefälschte Dokumente und viel harte Arbeit. In der Stadt der sozialen Medien genügt eine Anmeldung von wenigen Minuten, um ein neues Konto zu erstellen. Die physische Stadt wird von echten Menschen bevölkert. In "Social-City" könnten Sie jederzeit mit jemandem sprechen, der insgeheim ein Roboter ist. In einer realen Stadt braucht eine Reise Zeit. In der Stadt der sozialen Medien ist es für einen mazedonischen Teenager trivial, die Identität von Tausenden von Menschen in einer anderen Hemisphäre anzunehmen, um damit Werbegelder einzusammeln.

Mehr von MIT Technology Review Mehr von MIT Technology Review

In einem System, in dem es die größten Anreize dafür gibt, ein möglichst schlimmes Verhalten an den Tag zu legen, ist nachträgliche Bestrafung zum Scheitern verurteilt. Zum Glück haben wir mittlerweile andere Ansätze. Schließlich löst auch die physische Stadt die Probleme nicht, indem sie jeden überwacht und verhaftet. Öffentliche Gesundheitskampagnen und örtliche Sozialarbeiter können Menschen helfen, bevor es zu spät ist. Es gibt öffentliche Räume wie Kulturzentren oder Bibliotheken beispielsweise, um ein Gefühl der Gemeinschaft zu erzeugen.

Lesen Sie auch