Deepfake-Tweets trollen Amazon

Auf Twitter aufgetauchte Konten sind wahrscheinlich nur Parodien und nicht Teil einer finsteren Firmenstrategie. Trotzdem zeigt sich, was bald möglich ist.

Lesezeit: 6 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 26 Beiträge
Amazon-Schriftzug

(Bild: Daniel AJ Sokolov)

Von
  • Karen Hao

Vor der wegweisenden Abstimmung, die zur Gründung der ersten Gewerkschaftsvertretung in einem amerikanischen Amazon-Lager hätte führen können, tauchten plötzlich neue Twitter-Konten von angeblichen Mitarbeitern des E-Commerce-Riesen auf. Die Profile verwendeten gefälschte Fotos als Profilbilder und verteidigten Amazons Arbeitspraktiken mit ziemlich lächerlichen und übertriebenen Tweets.

Sie scheinen keine echten Amazon-Tweets zu sein, führten aber dennoch zu Verwirrung in der Öffentlichkeit. Steckte etwa doch Amazon dahinter? Handelte es sich also um eine üble neue Social-Media-Strategie gegen Gewerkschaften? Die Antwort lautet mit ziemlicher Sicherheit "nein“. Trotzdem deutet der Einsatz sogenannter Deepfakes auf einen besorgniserregenden Trend hin.

Zum Hintergrund: Die neuen Deepfake-Profile kamen vielen aus gutem Grund bekannt vor. 2018 hatte Amazon eine echte Charme-Offensive gestartet, um die Öffentlichkeit davon zu überzeugen, dass es seine Lagerarbeiter gut behandelt. Das Unternehmen richtete Computerstationen in den Lagern ein und erstellte Twitter-Konten für eine kleine Gruppe von Mitarbeitern, die als "Amazon-Fulfillment-Center-Botschafter" während bezahlter Arbeitsstunden darüber twittern konnten, wie sehr sie ihren Job schätzten.

Der Plan schlug fehl und führte zur Einrichtung zahlreicher Parodie-Konten auf Twitter. Kurz darauf fuhr Amazon das Programm zurück und viele der ursprünglichen realen Accounts wurden gesperrt oder geschlossen, so Aric Toler, Leiter für Schulung und Training bei der investigativen Journalismus-Website Bellingcat.

Nun tauchten am 29. März die neuen Botschafterkonten auf, zumindest hatte es anfangs diesen Anschein. Doch viele, die genauer hinsahen, entdeckten in einigen Profilbildern verräterische Zeichen von KI-gestützten Bilderfälschungen, etwa verzogene Ohrringe und verschwommene Hintergründe. Dann wurde es richtig verwirrend.

Nutzer mutmaßten, dass Amazon selbst im Rahmen einer gewerkschaftsfeindlichen Social-Media-Kampagne hinter den neuen Deepfake-Konten stecken könnte. Das Unternehmen bestritt das energisch gegenüber Karen Weise, einer Reporterin der New York Times. Bellingcat-Mann Toler, der die ursprünglichen Konten verfolgt hat, glaubt dem Amazon-Statement. Denn die ursprünglichen Botschafterkonten waren alle unter Amazon-E-Mail-Adressen registriert und über die Management-Plattform für Nutzererfahrung Sprinklr veröffentlicht worden. Die neuen, inzwischen gesperrten Deepfake-Konten wurden dagegen über Gmail registriert und über die Twitter-Web-App veröffentlicht. Außerdem sollte der Inhalt der Tweets eindeutig humorvoll sein. Diese Konten waren also wahrscheinlich nur als Parodien zur Verspottung von Amazon gedacht.

Ist das Ganze also gefährlich? In diesem speziellen Fall wahrscheinlich nicht. "Es ist ziemlich harmlos", sagt Toler. "Wir reden hier von Amazon. Die werden das überstehen." Das Beispiel zeigt allerdings gleichzeitig ein besorgniserregenderes Problem: Deepfake-Konten können auf koordinierte Weise in sozialen Medien oder anderswo für weitaus unheimlichere Zwecke bereitgestellt werden. Die bösartigste Version davon käme von staatlichen Akteuren, warnt Toler.

Tatsächlich gab es bereits mehrere hochkarätige Fälle, in denen gefälschte Fotos für schädliche Desinformationskampagnen verwendet wurden. Im Dezember 2019 identifizierte und entfernte Facebook ein Netzwerk mit mehr als 900 Seiten, Gruppen und Konten, darunter einige mit gefälschten Profilbildern. Diese standen mit "Alt Right"-Medien in Verbindung, die schon öfter Fehlinformationstaktiken betrieben haben. Ein im Oktober 2020 gefälschtes "Geheimdienst"-Dokument, das in den Kreisen vom damaligen US-Präsidenten Donald Trump verteilt und zur Basis für zahlreiche Verschwörungstheorien rund um Joe-Biden-Sohn Hunter wurde, war ebenfalls von einem falschen Sicherheitsanalysten mit einem Deepfake-Profilbild verfasst worden.

Laut Toler sind Deepfake-Gesichter zu einem Trend in seiner Tätigkeit als Open-Source-Ermittler für verdächtige Online-Aktivitäten geworden, insbesondere seit dem Start der Webseite ThisPersonDoesNotExist.com, die bei jeder Aktualisierung ein neues KI-generiertes Gesicht bereitstellt. „Es gibt immer eine mentale Checkliste, die Sie durchgehen können, wenn Sie etwas finden“, sagt er. „Die erste Frage lautet: Ist diese Person [auf dem Foto] echt oder nicht? Diese Frage hatten wir vor fünf Jahren noch nicht wirklich.“

Im Moment hätten Deepfake-Gesichter keinen großen Einfluss auf seine Arbeit, so Toler. Er kann immer noch relativ einfach erkennen, welches Profilbild eine Fälschung ist, genauso wie in jenen Fällen, in denen Archiv-Fotos verwendet werden.

Das schwierigste Szenario sei, wenn das Bild von einem echten Social-Media-Konto abgerufen wurde, das nicht in Bildsuchmaschinen indiziert ist. Ein wachsendes Bewusstsein für Deepfakes hat die Menschen auch dazu veranlasst, bei Medien genauer hinzuschauen, sagt Toler. Dies zeigt sich darin, wie schnell die Menschen die Fälschung der Amazon-Konten erkannt haben.

Sam Gregory zufolge, der Programmdirektor bei der gemeinnützigen Menschenrechtsorganisation "Witness" ist, sollte uns das allerdings nicht in falsche Sicherheit wiegen. Deepfakes würden immer besser: "Ich denke, die Leute haben ein bisschen zu viel Vertrauen, dass es immer möglich sein wird, sie zu erkennen." Ein hochsensibilisiertes Bewusstsein für Deepfakes könnte darüber hinaus auch dazu führen, dass viele den echten Medien nicht mehr glauben, was ebenso schlimme Folgen haben könnte, wie beispielsweise die Untergrabung der Dokumentation von Menschenrechtsverletzungen.

Was aber lässt sich dagegen unternehmen? Gregory ermutigt Social-Media-Nutzer, sich nicht darauf zu fixieren, ob ein Bild eine Fälschung ist oder nicht. Oft ist das nur "ein winziger Teil des Puzzles", sagt er. "Sie sehen sich das Konto an und es wurde vor einer Woche erstellt, oder es ist ein Journalist, der behauptet, ein Journalist zu sein, aber er hat nie etwas anderes geschrieben, das Sie in einer Google-Suche finden könnten."

Diese Untersuchungstaktiken sind gegenüber Fortschritten in der Deepfake-Technik wahrscheinlich wesentlich robuster. Der Rat gilt auch für den Fall Amazon. Toler stellte schließlich durch Überprüfen der E-Mails und Tweet-Details der Konten fest, dass es sich um Fälschungen handelte und nicht durch Überprüfen der Profilbilder. (vsz)