Deep Fakes in Social-Media-Kampagnen

In Profilbildern für Fake Accounts kommt offenbar zunehmend Künstliche Intelligenz zum Einsatz. Das belegt eine kürzlich aufgedeckte Facebook-Kampagne.

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 32 Beiträge
Facebook-Logo

(Bild: dpa)

Von
  • Markus Montz

Die Schöpfer diverser Netzwerke zur politischen Beeinflussung auf Social-Media-Kanälen setzen neuerdings offenbar auch auf sogenannte Deep Fakes. In den kürzlich aufgeflogenen und entfernten weltweiten Netzwerken mit über 900 Nutzerkonten, Seiten und Gruppen, die auf Facebook und auf Instagram entdeckt worden waren, haben zwei Forschergruppen die Profilbilder analysiert. Dabei kamen sie zu dem Schluss, dass ein Teil davon künstlich erzeugte Gesichter zeigte. Das berichtet das US-Technikmagazin Wired auf seinem Online-Auftritt.

Laut Wired stelle die Entdeckung der Experten von Graphika und dem Atlantic Council’s Digital Forensic Research Lab (DFRLab), die Facebook für die Recherche engagiert hatte, eine erschreckende neue Entwicklung im Informationskrieg dar. Es scheine sich um den ersten großflächigen Einsatz von KI-gestützt erzeugten Bildern in einem sozialen Netzwerk zu handeln, so Autorin Paris Martineau.

Die Fotos dienten dem Bericht von Graphika zufolge dazu, die Glaubwürdigkeit eines Teils des 610 Facebook-Accounts, 156 Gruppen, 89 Seiten und 72 Instagram-Accounts umfassenden Netzwerks zu erhöhen, das die US-Präsident Donald Trump nahestehende digitale Newsseite "The Beauty of Life" (TheBL) geschaffen hatte.

Bereits zuvor hatte sich laut Facebook herausgestellt, dass TheBL offenbar eng mit der konservativen Mediengruppe "The Epoch Times" verbandelt ist. Das Netzwerk von TheBL sei von Nutzern aus Vietnam und den USA betrieben worden und habe sich vor allem an spanisch- und chinesischsprechende Menschen gerichtet.

Die Forscher von Graphika und DFRLab fanden nach eigenen Angaben in 18 der Profilbilder eindeutige Hinweise darauf, dass sie mithilfe neuronaler Netze entstanden seien. Diese habe man zuvor offenbar mit Porträtbildern von echten Menschen trainiert.

Zwar könne die Technologie passable Fake-Gesichter erzeugen, so die Forscher. Die so entstandenen Fotos wiesen jedoch einige Macken auf, da der Software das Verständnis für menschliche Anatomie fehle. Zudem habe sie Schwierigkeiten mit Hintergründen und symmetrischen Details wie Brillen oder Ohrringen.

Als Beleg veröffentlichte Graphika unter anderem das Bild eines Mannes, der eine Brille mit links und rechts unterschiedlich gestalteten Brillenbügeln und -rahmen trägt. Experten der neapolitanischen Universität Federico II aus Italien hätten bestätigt, dass die Bilder zu 99,9 Prozent künstlich erzeugt worden seien. (mon)