Wenn Bots Fake News verbreiten

Immer wieder werden im Internet Falschinformationen herumgereicht, die gefährliche Folgen haben können. Jetzt haben Forscher erstmals systematisch untersucht, wie es dazu kommt.

Lesezeit: 5 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 2 Beiträge
Von
  • TR Online
Inhaltsverzeichnis

Fake News und deren Verbreitung in sozialen Medien entwickeln sich zu einer der großen Bedrohungen für die moderne Gesellschaft. In jüngster Vergangenheit wurden solche Falschinformationen eingesetzt, um Aktienmärkte zu manipulieren, Menschen dazu zu bringen, riskante Optionen für die Gesundheitsversorgung zu wählen, und um Wahlen zu manipulieren, auch die US-Präsidentschaftswahl im vergangenen Jahr.

Eindeutig gibt es also dringenden Bedarf, etwas gegen Fake News zu unternehmen. Und das wirft eine wichtige Frage auf: Wie kommt es überhaupt zu ihrer Verbreitung?

Mehr Infos

Eine erste Antwort darauf liefern jetzt Chengcheng Shao und Kollegen von der Indiana University in Bloomington. Zum ersten Mal haben die Forscher systematisch untersucht, wie sich Fake News auf Twitter verbreiten, und ermöglichen damit interessante Einblicke in diese undurchsichtige Welt. Und ihre Arbeit lässt mögliche Strategien zur Eindämmung der Epidemie erkennen.

Bei Fake News geht es um die Veröffentlichung von Nachrichten, die falsch oder irreführend sind. Das Phänomen ist inzwischen so weit verbreitet, dass eine Reihe von unabhängigen Factchecking-Organisationen aktiv sind, um die Korrektheit von Informationen im Internet zu überprüfen. Zu ihnen zählen snopes.com, politifact.com und factcheck.org.

Auf diesen Seiten sind 122 Websites zu finden, die routinemäßig Fake News veröffentlichen, zum Beispiel infowars.com, breitbart.com, politicususa.com und theonion.com. "Wir haben Satire nicht ausgeschlossen, weil viele Fake-News-Seiten ihre Inhalte als satirisch bezeichnen, was die Unterscheidung problematisch macht", schreiben Shao und Co. dazu.

Die Forscher beobachteten 400.000 Behauptungen, die auf diesen Seiten aufgestellt wurden, und untersuchten, wie sie sich auf Twitter verbreiteten. Dazu sammelten sie rund 14 Millionen Twitter-Beiträge, in denen die Behauptungen erwähnt wurden. Parallel dazu beobachtete das Team rund 15.000 Artikel von Factcheckern und gut eine Million Twitter-Nachrichten, in denen davon die Rede war.

Als Nächstes schauten sich Shao und Kollegen die Konten der Twitter-Nutzer an, von denen die Nachrichten verbreitet wurden. Sie sammelten bis zu 200 der neuesten Beiträge dieser Konten, um ihr Verhalten zu untersuchen und auf diese Weise herauszufinden, ob dahinter eher ein Mensch oder ein Bot stecken dürfte.

Nach dieser Einschätzung schaute sich das Team zuletzt an, wie Menschen und Bots Fake News verbreiten und wie sie Nachrichten auf ihren Wahrheitsgehalt überprüfen. Dazu entwickelte es zwei Online-Plattformen. Die erste heißt Hoaxy und dient dazu, den Weg von falschen Behauptungen nachzuvollziehen, die andere Bolometer – sie soll herausfinden, ob ein Twitter-Konto von einem Menschen oder einem Bot genutzt wird.

Die Ergebnisse der Untersuchungen sind interessant. "Konten, die aktiv Falschinformationen verbreiten, sind mit signifikant höherer Wahrscheinlichkeit Bots", schreiben Shao und Co. "Soziale Bots spielen bei der Verbreitung von Fake News eine entscheidende Rolle."

Wie die Forscher feststellten, sind Bots vor allem kurz nach der ersten Veröffentlichung einer Falschmeldung am Werk. Zudem seien sie so programmiert, dass sie ihre Beiträge an einflussreiche Nutzer richten. "Automatisierte Konten sind besonders in der frühen Phase der Verbreitung von viralen Behauptungen aktiv und zielen tendenziell auf einflussreiche Nutzer ab", heißt es in dem Fachaufsatz zum Thema.

Das ist eine geschickte Strategie. Informationen finden viel eher virale Verbreitung, wenn sie stark vernetzte Knoten in einem sozialen Netzwerk durchlaufen. Also kommt es entscheidend darauf an, die einflussreichen Nutzer anzusprechen. Menschen lassen sich von automatisierten Konten leicht in die Irre führen und können dann unwissentlich zum Ausgangspunkt für die Verbreitung von Fake News werden (obwohl manche das natürlich auch mit Absicht machen).

"Die Ergebnisse sprechen dafür, dass Maßnahmen gegen soziale Bots eine effektive Strategie zur Eindämmung der Verbreitung von Falschinformationen im Internet sein könnten", schreiben Shao und Kollegen.

Die Frage ist allerdings, wie diese Maßnahmen konkret aussehen könnten. Eine Möglichkeit wäre, eine bestimmte Art von sozialen Bots illegal zu machen, aber dieser Weg steckt voller Schwierigkeiten. Beispielsweise gibt es viele soziale Bots, die eine wichtige Rolle bei der Verbreitung von korrekten Informationen spielen. Zudem gelten Gesetze immer nur in einem Land. Angesichts der Art und Weise, wie ausländische Mächte bei der Verbreitung von Fake News mitgemischt haben, dürfte das nicht ausreichen.

So oder so sind Fake News ein ernst zu nehmendes und wichtiges Problem. Zu verstehen, wie sie sich verbreiten, könnte der erste Schritt dazu sein, es in den Griff zu bekommen.

()