Twitter geht gegen Deepfakes vor

Twitter will künftig synthetisch erstellte und manipulierte Medien löschen oder kennzeichnen, um Nutzertäuschung und Meinungsmanipulation zu verhindern.

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 6 Beiträge

(Bild: Koshiro K/Shutterstock.com)

Von

Der Microblogging-Dienst Twitter hat seine Nutzungsbedingungen überarbeitet, um die Verbreitung von Deepfakes über seine Plattform einzudämmen. Tweets mit synthetisch erzeugten oder manipulierten Medien, die bei den Nutzern Schaden verursachen könnten, sollen entweder gelöscht oder mit einem Hinweis versehen werden. Das geht aus den neuen Twitter-Richtlinien zu synthetischen und manipulierten Medien von Dienstag hervor, die Twitter bereits im Oktober angekündigt hatte.

Grund für die Maßnahmen sind die zunehmende Anzahl an Tweets, über die Deepfakes verbreitet werden, um Nutzer gezielt irrezuführen und deren Meinung mit falschen Informationen zu manipulieren. Die "Nutzer sollen in der Lage sein, zuverlässige Informationen auf Twitter zu finden", heißt es in den Policies. Twitter will deshalb den Anwendern eine Hilfestellung geben, ob die Informationen echt oder erfunden sind. Deshalb sollen künftig Tweets gekennzeichnet werden, in denen Deepfakes in Form von Videos, Audios und Bildern enthalten sind. Den Nutzern ist es untersagt, solche Medien mit der Absicht zu verbreiten, bewusst andere über die Echtheit irrezuführen oder zu täuschen – sofern daraus ein möglicher Schaden für die physische Sicherheit der Nutzer oder andere schwerwiegende Schäden entstehen könnten, heißt es eher schwammig formuliert.

Ob ein Tweet nur gekennzeichnet oder komplett gelöscht wird, hängt im Wesentlichen von drei Kriterien ab, schreibt Twitter. Zunächst erfolgt eine Überprüfung, ob Medien gänzlich synthetisch erzeugt oder stark manipuliert wurden. Darunter fallen beispielsweise Videos, deren Zusammensetzung, Reihenfolge, zeitliche Abfolge oder Gestaltung grundlegend verändert sind. Auch Medien, bei denen visuelle oder akustische Informationen hinzugefügt oder entfernt sind, werden entsprechend eingestuft. Zusätzlich erfolgt eine Überprüfung, ob Medien, die eine reale Person darstellen, synthetisch erzeugt oder verändert wurden. Nicht betroffen davon sind retuschierte Fotos oder farbkorrigierte Fotos. Um unerwünschte Manipulationen festzustellen, greift Twitter auf technische Hilfsmittel und Begutachtung durch externe Partner zurück.

Als zweites Kriterium führt Twitter an, ob ein Medium mit bewusster Täuschungsabsicht eingestellt wurde. Dabei überprüft das Unternehmen den Kontext, in denen die Medien auf Twitter veröffentlicht worden sind. Außerdem wird beispielsweise der Begleittext oder möglicher Text in den Medien selbst herangezogen. Zusätzlich erfolgt eine Untersuchung der Metadaten der Medien. Auch Informationen im Nutzerprofil des Posters sollen berücksichtigt werden.

Die Sicherheit der Nutzer stellt das dritte Kriterium dar. Die ist laut Twitter nicht gegeben, wenn einzelne Benutzer oder Benutzergruppen körperlich beeinträchtigt werden könnten, Massengewalt ausgelöst werden könnte oder Unruhen entstehen könnten. Zusätzlich fällt darunter eine Beeinträchtigung der Privatsphäre, Stalking sowie Einschüchterung mit dem Ziel, eine Person zum Schweigen zu bringen oder zu einer anderen Wahlentscheidung zu bewegen.

Sofern alle drei Kriterien eintreffen, darf der Tweet nicht geteilt werden und wird "wahrscheinlich" gelöscht. Ist die Sicherheit der Nutzer gefährdet und das Medium nachweislich manipuliert, kann der Tweet gelöscht oder gekennzeichnet werden. Grundsätzlich wird nicht jeder Deepfake entfernt. Dies hängt offensichtlich vom jeweiligen Kontext ab. Selbst Deepfakes, die mit Täuschungsabsicht eingestellt wurden, will Twitter wahrscheinlich nur mit einem Hinweis versehen.

Diese Hinweise erscheinen direkt am Tweet und warnen gegebenenfalls den Nutzer davor, den Tweet zu liken oder zu teilen. Gleichzeitig wird die Anzeige des Tweets im Netzwerk eingeschränkt, möglicherweise auch die Weiterempfehlung verhindert, schreibt Twitter. Die Hinweise können außerdem Links zu weiterführenden Informationen mit Erklärungen und Klarstellungen enthalten.
Accounts von Benutzern, die mehrfach die neuen Policies missachtet haben, will Twitter gegebenenfalls dauerhaft sperren. Betroffene Tweets will Twitter ab dem 5. März mit Hinweisen versehen. (olb)