Terrorismusbekämpfung: Zivilgesellschaft warnt EU vor Upload-Filtern

20 Organisationen warnen vor neuen EU-Auflagen gegen Terror: Die Corona-Krise zeige, dass automatisiertes Löschen von Inhalten übers Ziel hinausschieße.

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 17 Beiträge

(Bild: kb-photodesign/Shutterstock.com)

Von

In einem offenen Brief hat die Initiative European Digital Rights (EDRi) zusammen mit 19 zivilgesellschaftlichen Organisationen und Forschern die EU-Mitgliedsstaaten aufgefordert, im Kampf gegen terroristische Inhalte keine Pflicht zum Einsatz von Upload-Filtern für Online-Plattformen vorzuschreiben. Wie aktuell die Coronavirus-Krise deutlich mache, funktionierten solche Technologien zur automatischen Content-Erkennung alles andere als präzise. Twitter, Facebook und YouTube setzten momentan verstärkt auf solche Verfahren. Dies habe dazu geführt, dass auch "zahlreiche legitime Artikel über Coronaviren entfernt wurden".

heise online daily Newsletter

Keine News verpassen! Mit unserem täglichen Newsletter erhalten Sie jeden Morgen alle Nachrichten von heise online der vergangenen 24 Stunden.

Sollte die Technik auf "angebliche" Terrorpropaganda angewendet werden, drohten vergleichbare Kollateralschäden rund um die Meinungsfreiheit, warnen die Bürgerrechtler. Algorithmen könnten hier sogar just die Gruppen diskriminieren und mundtot machen, die sich mit alternativen Inhalten gegen Radikalisierung und Hetze starkmachten. Insgesamt bräuchten die Diensteanbieter einen recht großen Handlungsspielraum, um im Einklang mit ihren Kapazitäten und Ressourcen angemessen gegen Hassprediger vorzugehen.

Upload-Filter seien "extrem fehleranfällig und haben in der Vergangenheit bereits zur Löschung von Beweismaterial zu Kriegsverbrechen oder journalistischen Beiträgen geführt", verdeutlicht der Verein Digitale Gesellschaft, der neben Organisationen wie Access Now, dem Center for Democracy & Technology (CDT), Digitalcourage, der Electronic Frontier Foundation (EFF), Epicenter.Works oder Wikimedia Spanien zu den Unterzeichnern des Schreibens gehört. Es sei auch zu befürchten, dass die Technik gegen politisch unerwünschte Beiträge in Stellung gebracht werde. Inhalte als "terroristisch" zu klassifizieren, stelle oft eine Gratwanderung dar.

Die EU-Gesetzgebungsgremien arbeiten seit Herbst im Rahmen der sogenannten Trilog-Verhandlungen an einem Kompromiss zum Vorschlag der Kommission für eine Verordnung gegen Terrorpropaganda. Das EU-Parlament plädierte hier voriges Jahr für Korrekturen. Demnach müssten Provider zwar keine technischen Präventivmaßnahmen mehr ergreifen, um das erstmalige oder erneute Hochladen terroristischer Inhalte zu verhindern. Es soll aber bei der Pflicht bleiben, einschlägige Propaganda "sobald wie möglich" und spätestens binnen einer Stunde nach einer behördlichen Anordnung zu löschen. Viele Betroffene dürften so kaum umhin kommen, Upload-Filter zu verwenden.

Die im EU-Rat versammelten Regierungsvertreter fahren einen noch schärferen Kurs. Die Innenminister etwa von Deutschland und Frankreich ließen auch bereits durchblicken, dass die geforderte Zensurinfrastruktur gegebenenfalls auch im Kampf gegen Darstellungen sexuellen Kindesmissbrauchs und andere rechtswidrige Inhalte genutzt werden sollte. Der Druck auf die Abgeordneten ist daher groß. Berichten zufolge soll sich der neue Verhandlungsführer des Parlaments, der erzkonservative Pole Patryk Jaki, für Upload-Filter ausgesprochen, dies aber rasch wieder dementiert haben.

Der Schattenberichterstatter der Fraktion der Grünen, Patrick Breyer, hat den Stand der Gespräche jüngst öffentlich gemacht und vor einem weiteren Vordringen "intransparenter Zensurmaschinen" gewarnt. Sollten sich Kommission und Rat durchsetzen, würden Upload-Filter laut dem Mitglied der Piratenpartei über den geplanten "Digital Services Act" bald als Standardmaßnahme gegen alle "illegalen Inhalte" vorgeschrieben.

EDRi & Co. fordern derweil auch, dass die EU-Staaten nur eingeschränkt grenzüberschreitende Löschungen anordnen dürfen und einschlägige neue Befugnisse von unabhängigen Stellen ausgeübt werden müssen. Ausnahmen für journalistische, künstlerische, pädagogische Inhalte und Forschungsmaterialien sollten erhalten bleiben. Die Volksvertreter zeigten sich zuvor laut einem vorläufigen Ergebnispapier bereit, nicht auf eine Richtergenehmigung für Löschanordnungen zu bestehen. (tiw)