Wie ein EU-Kinderschutzgesetz die Presse- und Meinungsfreiheit einschränken kann

Die EU-Kommission will Onlinedienste zwingen, Inhalte ihrer Nutzer nach Missbrauchsdarstellungen und Grooming zu durchforsten – selbst in verschlüsselten Chats.

Lesezeit: 7 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 22 Beiträge
Überwachung, Sicherheit, Abhören

(Bild: Gerd Altmann, Public Domain (Creative Commons CC0))

Von
  • Holger Bleich

Selten hat ein Gesetzesvorschlag der EU-Kommission so viel Widerspruch in kurzer Zeit geerntet, wie die am 11. Mai vorgestellten "neuen EU-Rechtsvorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern im Internet". Dies liegt keineswegs am unbestritten wichtigen Ziel, die Verbreitung von Darstellungen sexualisierter Gewalt gegen Kinder einzudämmen. Es sind die Mittel dazu, die auf rigide Ablehnung von vielen Seiten stoßen. Längst hat sich für den Kommissionsentwurf der Begriff "Chatkontrolle" etabliert.

Mehr von c't Magazin Mehr von c't Magazin

Der geplanten Verordnung zufolge soll die EU alle Internetdienste, die in Europa aktiv sind, dazu zwingen dürfen, die Inhalte ihrer Nutzer auf Anweisung einer nationalen Behörde hin zu durchleuchten. Es geht um die Suche nach Darstellungen sexueller Gewalt an Kindern in Bild und Video. Aber nicht nur das: Auch die gezielte Suche von Pädophilen nach Kontakten zu Kindern ("Grooming") sollen die Anbieter aufspüren, indem sie private Nachrichten, etwa Mails und Chats, "mit Hilfe von KI-gestützter Texterkennung automatisch scannen".

Die Pflicht soll laut Entwurf nicht unmittelbar bestehen. Zunächst müssen alle Anbieter, egal ob Hosting- oder Messenger-Dienste, selbst eine Risikobewertung vornehmen. Sie sollen klären, "inwieweit ihre Dienste für die Verbreitung von Material über sexuellen Kindesmissbrauch oder für die Kontaktanbahnung missbraucht werden könnten". Für Messenger wie WhatsApp, iMessage und Signal dürfte das mit Sicherheit gelten.

Ylva Johansson, EU-Kommissarin für Inneres: "Der Vorschlag enthält klare Pflichten für Unternehmen, den Missbrauch von Kindern aufzudecken und zu melden."

(Bild: EU-Kommission)

Kommt eine – von den einzelnen Mitgliedsstaaten zu benennende – nationale Behörde nach Sichtung der Analyse zum Ergebnis, dass ein "erhebliches Risiko" besteht, kann sie bei Gericht eine zeitlich befristete "Detection Order" beantragen. Der Anbieter wird damit verpflichtet, "live" und ohne Wissen seiner Kunden "bekanntes oder neues Material über sexuellen Kindesmissbrauch oder Kontaktanbahnungen" in deren Inhalten aufzuspüren.

Vermeintliche Treffer melden die Anbieter laut Entwurf einem noch zu gründenden "EU-Zentrum zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern". Dieses prüft demnach, ob tatsächlich illegale Inhalte vorliegen könnten. Falls ja, leitet das die Treffer an eine zuständige Strafverfolgungsbehörde weiter.

Nicht ganz zufällig plant die Kommission, das Zentrum im selben Gebäude in der niederländischen Stadt Den Haag anzusiedeln, das auch die EU-Polizeibehörde Europol beherbergt: Ein reger Austausch zwischen Prüfern und Strafverfolgern scheint gewollt.

Kritiker des Entwurfs sehen darin einen Angriff auf die Ende-zu-Ende-Verschlüsselung von Messengern, denn die "Detection Orders" beziehen sich ausdrücklich auf jede Form der Kommunikation, ob verschlüsselt oder nicht. Wie die Anbieter verschlüsselte Nachrichten auf bekanntes oder neues illegales Material hin untersuchen sollen, ist unklar. Man arbeite hierfür "eng mit der Industrie, zivilgesellschaftlichen Organisationen und der Wissenschaft zusammen, um die Forschung zu unterstützen", teilte die Kommission mit.

In der Praxis bleiben nur zwei Möglichkeiten: Entweder die Anbieter untersuchen Inhalte – etwa in ihren Apps – auf dem Smartphone, bevor sie verschlüsselt zum Empfänger geschickt werden (sogenanntes "client-side scanning"), oder sie implementieren Verschlüsselungsmethoden, die das Mithören auf dem Versandweg gewährleisten – das wäre das Ende einer echten Ende-zu-Ende-Verschlüsselung. Beide Eingriffe schwächen die Privatsphäre der Nutzer massiv und machen de facto eine verdeckte Massenüberwachung möglich.

Offen lässt die Kommission im Entwurf auch, mit welchen technischen Methoden die Anbieter Inhalte prüfen sollen. Wolkig heißt es: "Die Erkennung erfolgt automatisch und anonym mithilfe modernster Technologie, die bestmögliche Effizienz gewährleistet und das Recht der Nutzer auf Privatsphäre so wenig wie möglich beeinträchtigt."

Plattformbetreiber wie Facebook und Microsoft scannen bereits heute freiwillig nicht verschlüsselte Nutzerinhalte auf Missbrauchsdarstellungen. Dies funktioniere "äußerst zuverlässig" und weise "extrem niedrige falsch-positive Fehlerquoten auf", erklärte die Kommission. Einen Beleg für diese These bleibt sie schuldig. Kleineren Anbietern, die anders als Facebook die Fortentwicklung eines KI-gestützten Filtersystems finanziell nicht stemmen können, will die EU entgegenkommen: Das EU-Zentrum soll eine eigene "Erkennungstechnologie" entwickeln und kostenlos bereitstellen.

Auch die Betreiber von App-Stores, also insbesondere Google und Apple, will die EU-Kommission in die Pflicht nehmen: Sie sollen "in Zusammenarbeit mit den App-Anbietern Maßnahmen ergreifen, um das Risiko zu mindern, dass Kinder Apps mit einem hohen Grooming-Risiko herunterladen". Das heißt: Apps, die Grooming ermöglichen, sollen nur noch an Erwachsene gehen. Jugendliche würden in der EU also etwa von WhatsApp, Instagram, TikTok und vielen Game-Apps ausgeschlossen.

Verantwortlich für den Verordnungsentwurf zeichnet Ylva Johansson, EU-Kommissarin für Inneres. Sie sagt: "Als Erwachsene haben wir die Pflicht, Kinder zu schützen." Die Maßnahmen müssten mit Blick auf das Risiko verhältnismäßig sein und im Entwurf seien sie "an robuste Bedingungen und Schutzmechanismen gekoppelt". Rechtsexperten sehen im 135 Seiten starken Entwurfstext allerdings kaum Schutzmechanismen für Bürger.

Die enthaltene Chatkontrolle laufe aus Sicht des Datenschutzes sowie der Cybersicherheit aus dem Ruder, monierte etwa der Bremer IT-Sicherheitsrechtler und Juraprofessor Dennis-Kenji Kipker. Dies gelte aber auch für weitere geplante Maßnahmen wie die Erkennung und Blockade von Datenverkehren. Aufgrund vieler bewusst vage formulierter Befugnisse müssten sich die meisten Bürger auf die "viel befürchtete Vollüberwachung" einstellen.

Parallel zur Vorstellung des Verordnungsvorschlags in Brüssel gab es eine kleine Demo vor der Vertretung der EU-Kommission in Berlin.

(Bild: Padeluun)

Nicht nur den Datenschutz würde die Verordnung schwächen, sondern auch die Presse- und Meinungsfreiheit, fürchten Experten. Wenn Kommunikation automatisch mitgehört und eventuell auch manuell gesichtet wird, zerstört das auch das Vertrauen in Berufsgeheimnisträger wie Ärzte und Rechtsanwälte. Investigativ arbeitende Journalisten, die besonders auf sichere Kommunikationskanäle angewiesen sind, um an Informationen zu gelangen, würden massiv behindert – eine klare Schwächung der gesellschaftlichen Funktion der Presse.

Der Deutsche Journalistenverband (DJV) befürchtet denn auch "die größte europäische Datenüberwachung aller Zeiten, die massiv in Grundrechte wie die Presse- und Meinungsfreiheit eingreifen würde". Der notwendige Kampf gegen schwere Straftaten dürfe nicht mit gravierenden Einschnitten in die Pressefreiheit erkauft werden, warnte der DJV-Bundesvorsitzende Frank Überall.

Zu befürchten steht auch, dass sich sogenannte "chilling effects" einstellen würden: Wer im Hinterkopf hat, dass seine öffentliche oder private Kommunikation ausgeleitet und von Strafverfolgern bewertet werden könnte, wird sich mehr zurückhalten als nötig. Die Folge wäre, dass der für die demokratische Gesellschaft wichtige Austausch von Meinungen im Diskurs leidet. So würde die Meinungsfreiheit durch die Hintertür eingeschränkt.

Nachdem die EU-Kommission am 11. Mai ihren ersten Aufschlag gemacht hat, geht es nun an die Debatte um den Entwurf. In öffentlichen Konsultationen werden Meinungen eingeholt. Mutmaßlich im nächsten Jahr stehen dann Änderungen am Text an, bevor es zu Abstimmungen darüber im EU-Rat und im Parlament kommt.

Bürgerrechtsorganisationen befürchten, dass die Chatkontrolle allenfalls abgeschwächt, aber nicht komplett eingestampft werden wird. Bereits am 11. Mai kam es in Berlin zu einer kleinen Protestversammlung vor der deutschen Vertretung der EU-Kommission in Berlin. Die Petition "Chat-Überwachung stoppen!" auf Campact hat bislang (Stand: 23. Mai) rund 130.000 Unterstützer gefunden. In anderen Mitgliedsstaaten ist allerdings kein ähnlich lauter Protest gegen die Verordnung zu hören.

c't Ausgabe 14/2022

(Bild: 

c't 14/22

)

In c’t 14/2022 führen wir Sie durch die Gefahren und Reize des Darknet und erläutern, wie man den Zugang über einen Tor-Browser richtig nutzt. Außerdem zeigen wir Ihnen, wie Sie sich Ihre eigene, ganz private Mediathek aufbauen können, ganz ohne Netflix, Amazon und Co. Im großen Vergleichstest haben wir 15 besonders schnelle SSDs ab 1 TByte unter die Lupe genommen.

(hob)