Google: Neue Plattform gegen Falschinformationen und Deepfakes

Jigsaw und Google Research haben eine experimentelle Plattform zum Analysieren von Deepfakes und Falschinformationen entwickelt.

Lesezeit: 1 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 10 Beiträge

(Bild: mentatdgt/Shutterstock.com)

Von

Die experimentelle Plattform namens "Assembler" soll Forschern und Journalisten helfen, Deepfakes und Falschinformationen zu erkennen. Mit Falschinformationen meinen die Macher dabei aber nicht einfach Nachrichten, die falsche Informationen beinhalten, sondern gezielte Kampagnen, um Menschen zu manipulieren und Einfluss auf die Gesellschaft zu nehmen. Dafür kombiniert Alphabet mehrere Detektoren.

Das Projekt läuft unter dem Dach von Jigsaw, einer Tochtergesellschaft der Google-Holding Alphabet, die sich mit der Bekämpfung von Extremismus und dem Schutz der Informationsfreiheit befasst. Beteiligt sind Mitarbeiter von Google Reseach und verschiedene Wissenschaftler. Gemeinsam habe man die Plattform entwickelt, um zu testen, wie Technologie Faktencheckern und Journalisten helfen kann, Manipulationen aufzudecken, erklärt Jared Cohen, CEO bei Jigsaw in einem Blogbeitrag.

Noch ist Assembler in einem experimentellen Stadium. Unterschiedliche Detektoren für Bildmanipulationen, die von verschiedenen Universitäten entwickelt wurden, sollen durch die Zusammenführung bessere Ergebnisse liefern. "Einzeln können diese Detektoren jeweils spezifische Typen von Manipulation erkennen, etwa Kopiervorgänge oder Unterschiede in der Helligkeit ausmachen." Hinzu kommen zwei eigens geschaffene Systeme: StyleGAN ist auf Deepfakes spezialisiert und vergleicht via Machine Learning Fotos von realen Personen mit solchen aus Fälschungen. Das zweite System ermöglicht die gleichzeitige Anwendung der Detektoren.

Getestet wird derzeit bereits in den Newsrooms einiger Kooperationspartner, wie der französischen Presseagentur und der Organisation Code for Africa. Ein öffentlicher Zugang ist nicht geplant. Neben der Plattform berichtet Jigsaw auch in einer Art neuem Online-Journal über Errungenschaften, Technologien und Problemstellungen zu bestimmten Schwerpunkten. Die erste Ausgabe von The Current behandelt passenderweise das Thema Falschinformations-Kampagnen.

Zu den Jigsaw-Projekten gehört auch eine Chrome-Erweiterung, die dumme Kommentare in den sozialen Netzwerkern filtern soll. Eine Umleitungsfunktion für Suchanfragen bei YouTube wurde bereits getestet: Sucht jemand nach Enthauptungsvideos, leitet das Videoportal zu Aufklärungsvideos um.

heise online daily Newsletter

Keine News verpassen! Mit unserem täglichen Newsletter erhalten Sie jeden Morgen alle Nachrichten von heise online der vergangenen 24 Stunden.

(emw)