Studie: Netzwerk-Durchsetzungsgesetz bringt wenig und führt zu Overblocking

In einer alternativen Evaluierung bezweifelt die HTWK Leipzig die Wirkung des NetzDG und sieht im Gegenteil Indizien für Einschränkungen der Meinungsfreiheit.

Lesezeit: 4 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 36 Beiträge
Hochschulstudie: NetzDG bringt kaum was und führt zu Overblocking
Von
  • Holger Bleich

Gerade ist die Bunderegierung dabei, ihre ohnehin umstrittene Novelle des Netzwerk-Durchsetzungsgesetz (NetzDG) durch den Bundestag zu bringen, da erhält sie starken Gegenwind aus der Wissenschaft: Eine am heutigen Mittwoch erschienene Studie der Hochschule für Technik, Wirtschaft und Kultur Leipzig (HTWK) attestiert dem NetzDG, seinen Zweck zu verfehlen und im Gegenteil höchstwahrscheinlich negative Effekte, beispielsweise ein Overblocking rechtskonformer Inhalte in Sozialen Netzwerken, hervorzurufen.

Das NetzDG war Anfang 2018 in Kraft getreten. Es schreibt unter anderem vor, dass große soziale Plattformen ein funktionierendes Beschwerdemanagement haben müssen. Sie sollen von Nutzern als potenziell rechtswidrig gemeldete Beiträge innerhalb von 24 Stunden prüfen. "Offensichtlich rechtswidrige" Beiträge müssen in diesem Zeitraum verschwunden sein, Zweifelsfälle dürfen bis zu sieben Tage geprüft werden. Fällt auf, dass die Unternehmen dem wiederholt nicht nachkommen ("systemisches Versagen"), drohen Bußgelder. Zuständig dafür ist das in Bonn ansässige Bundesamt für Justiz (BfJ). Alle sechs Monate müssen dem NetzDG außerdem die Plattformbetreiber darüber öffentlich berichten, wie viele Inhalte sie gelöscht haben.

(Bild: Verlag Carl Grossmann / CC BY 4.0)

Vorgesehen war eine Evaluierung zur Wirkung des neuen Gesetzes nach spätestens drei Jahren. Im September 2020 hatte die Bundesregierung tatsächlich einen Bericht vorgelegt, demzufolge "die mit dem NetzDG verfolgten Ziele in erheblichem Umfang erreicht wurden und Verbesserungsbedarf nur in Einzelpunkten besteht". Bundesjustizministerin Christine Lambrecht hatte aus dem Bericht geschlossen: "Das NetzDG wirkt! Wir sehen deutliche Verbesserungen beim Umgang der sozialen Netzwerke mit Nutzerbeschwerden über strafbare Inhalte."

Nach Angaben der Bundesregierung beruhen die Erkenntnisse des Berichts "auf einem unabhängigen juristischen Gutachten, den Erkenntnissen des Bundesamts für Justiz (BfJ), den von den Anbietern veröffentlichten Transparenzberichten bis zum zweiten Halbjahr 2019 und der Erfüllungsaufwandsmessung des Statistischen Bundesamts". Parallel zu diesem Bericht hatte da bereits die HTWK Leipzig, dort die Fakultät Medien unter Leitung von Prof. Marc Liesching, aus eigenem Antrieb de facto eine Evaluierung der Evaluierung des NetzDG gestartet, deren Ergebnisse in Form einer 400-Seitigen Analyse seit dem heutigen 24. März frei verfügbar sind.

Lieschings Team lässt kaum ein gutes Haar am Vorgehen der Bundesregierung und des BfJ. So hat demnach das BfJ dem nicht darauf spezialisierten Unternehmen Intelligent Data Analytics GmbH & Co. KG rund 1,4 Millionen Euro dafür bezahlt, für 2019 und das erste Halbjahr 2020 "Monitoringberichte" zu verfassen, in denen die Melde- und Lösch-Praxis der Sozialen Netzwerke eruiert werden soll. Auf Anfrage der HTWK wollte das BfJ diese Berichte nicht herausgeben, berichtet Liesching. Erst auf einem Antrag nach Informationsfreiheitsgesetz erhielt sein Institut am 4. Februar 2021 die Dokumente ungeschwärzt.

In den Monitoring-Berichten der Firma seien nur Stichproben aufgeführt, und diese seien nur den vier Netzwerken Facebook, Instagram, Twitter und YouTube entnommen worden. Es sei bei der Untersuchung nur um eindeutig strafrechtlich relevante Inhalte gegangen, und dies bei einer "eklektischen" Delikt-Auswahl. Ob überhaupt von qualifizierten Juristen geprüft worden sei, dass die Inhalte tatsächlich strafbar seien, gehe aus den Berichten nicht hervor. In den Berichten selbst betone die beauftragte Firma mehrfach, "dass die Ergebnisse aufgrund der Stichprobengröße mit Vorsicht zu interpretieren" seien. Demgegenüber habe das BfJ auf Nachfrage erklärt, dass die Ergebnisse aussagekräftig seien.

Die Löschquote der drei Plattformen nimmt im Laufe der Zeit zu. Dies könnte mit dem vermehrten Einsatz von KI-gestützten Filtern zu tun haben.

(Bild: Das NetzDG in der praktischen Anwendung / CC BY 4.0)

2017 hatte der damalige Bundesjustizminister Heiko Maas (SPD) die Initiative zum NetzDG mit Zahlen aus einem umstrittenen Monitoring von jugendschutz.net begründet. Demzufolge habe Twitter 2017 lediglich 1 Prozent der strafbaren Inhalte gelöscht, Facebook 39 Prozent und YouTube 90 Prozent. Das externe Monitoring fürs erste Halbjahr 2019 ergab der HTWK-Studie zufolge allerdings völlig andere Zahlen. So lag die Löschquote etwa bei YouTube unter 20 Prozent. Insgesamt habe die Evaluierung ergeben, dass die durchschnittliche Entfernungsquote der drei Netzwerke im Vergleich zum Zustand vor Einführung des NetzDG sogar von 43,3 Prozent auf 37,3 Prozent gesunken sei (Durchschnittswert aus allen drei externen Monitoring-Berichten).

Aus den Transparenzberichten der sozialen Plattformen geht laut Lieschings Team hervor, dass das NetzDG bei der Entferung von Inhalten kaum eine Rolle spielt: "Die drei untersuchten Sozialen Netzwerke Facebook, YouTube und Twitter nehmen Inhaltsentfernungen ganz überwiegend nach den vorrangig geprüften, eigenen Community-Standards vor. Demgegenüber sind Sperrungen beschwerdegegenständlicher Inhalte nach dem nur subsidiär geprüften NetzDG vergleichsweise marginal und haben kaum eine praktische Bedeutung", schreiben sie. Als Grund dafür sehen sie, dass "die Bußgelddrohungen und engen Löschfristen des NetzDG" einen Ausweichdruck in Richtung weit gefasste AGB-Standards erzeugt haben.

Dies erscheint paradox, denn das BfJ hat bislang kein einziges Bußgeld wegen systemischen Nicht-Löschens rechtswidriger Inhalte verhängt, obwohl in der Gesetzesbegründung von mindestens 500 derartiger Verfahren pro Jahr ausgegangen wurde. Entsprechend wurde die Behörde personell aufgestockt, was den Steuerzahler rund vier Millionen Euro jährlich kostet.

Ohne dafür eindeutige Beweise zu liefern, geht Lieschings Team davon aus, dass die sozialen Plattformen seit Einführung des NetzDG tendenziell mehr legale Inhalte vorsorglich sperren ("overblocking"). Dafür spreche etwa die im Verhältnis überwiegend vielen Sperrungen nach den AGB-Standards, die in der Regel wesentlich mehr Verbote enthalten als der Straftatenkatalog im NetzDG. Außerdem löschen insbesondere Facebook und Youtube die meisten Inhalte in weniger als 24 Stunden – eine Zeitspanne, in der kaum eine fundierte juristische Sachverhaltsprüfung im Einzelfall erfolgen kann. Der im NetzDG vorgesehene Mechanismus, Zweifelsfälle zur externen Expertise an die Freiwillige Selbstkontrolle Multimedia (FSM) weitergeben zu können, sei überdies so gut wie gar nicht angewendet worden.

Facebook löscht überwiegend auf Basis der eigenen Community-Standards Hassrede.

(Bild: Das NetzDG in der praktischen Anwendung / CC BY 4.0)

Lieschings Team beruft sich außerdem auf Interviews, die die Forscher selbst mit Vertretern von Sozialen Netzwerken geführt haben. YouTube etwa habe explizit eingeräumt, dass "die erheblichen Geldbußen und die engen Fristen des NetzDG einen 'starken Anreiz' setzten, Inhalte in fast allen Fällen im Zweifel zu löschen und der Dienst auch in der Anwendungspraxis eine umgehende Bearbeitung (auch in Zweifelsfällen) zur Vermeidung möglicher hoher Geldbußen vorgezogen hat." Aus den Transparenzberichten geht der Studie zufolge außerdem hervor, dass die großen Plattformen mittlerweile überwiegend KI-gestützte Filterung nutzen und mutmaßlich gegen die Regeln verstoßende Inhalte vollautomatisch löschen. Dieser Trend hat sich 2020 demnach massiv verfestigt.

Zusammenfassend konstatieren die Autorinnen und Autoren der Studie, dass entgegen der Aussagen der Bundesregierung das NetzDG "eine nur marginale Bedeutung in der Anwendungspraxis" hat: "Vielmehr stützen beide Teilergebnisse die These eines durch die Restriktionen des NetzDG (enge Löschfristen und hohe Bußgelddrohungen) verursachten verstärkten Ausweichens der Sozialen Netzwerke in eine weit gefasste, interne AGB-Compliance, welche den externen NetzDG-Normbefehlen vorgeschaltet wird und diese gleichsam ins Leere laufen lässt." Dies führe "zum Ausschluss auch solcher nutzer*innengenerierten Inhalte von der Zugänglichkeit, welche nach den Maßstäben des Strafrechts – auch im Spannungsfeld der Meinungsäußerungsfreiheit – und mithin nach dem NetzDG nicht hätten entfernt werden müssen."

Daran, so schließt der Bericht, dürften auch die auf den Weg gebrachten neuen Gesetze nichts ändern. Sowohl das "Gesetz zur Bekämpfung des Rechtsextremismus und der Hasskriminalität" als auch das "Gesetz zur Änderung des Netzwerkdurchsetzungsgesetzes" (NetzDGÄndG) ließen "die skizzierten Befunde einer kaum vorhandenen praktischen Bedeutung und fehlenden Regulierungseffektivität des NetzDG voraussichtlich unberührt. [...] Die Neuregelungen greifen damit überwiegend in die Leere eines bereits für das NetzDG 2017 fehlenden praktischen Anwendungsbereichs." (hob)