Menü

Facebook setzt auf KI im Kampf gegen Hass, Gewalt und Missinformation

Facebook sieht in der Künstlichen Intelligenz die Lösung für den Kampf gegen Probleme wie Hatespeech, Missinformation und schlimmeres.

Lesezeit: 1 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 102 Beiträge

Facebook-CTO Mike Schroepfer zeigt, dass Facebooks KI primär Spam und Fake-Accounts filtert.

(Bild: Facebook)

Von

Künstliche Intelligenz ist für Facebook das Mittel der Wahl, um gegen Hass, Gewalt und Falschinformationen vorzugehen. Die Herausforderungen beim Erkennen und Entfernen von solchen Inhalten auf der Plattform sind groß, aber das Unternehmen will sie Schritt für Schritt angehen.

Facebook-CTO Mike Schroepfer erklärte, dass sein Unternehmen alle auf den hauseigenen Plattformen veröffentlichten Inhalte vollautomatisch analysiere und in den meisten Fällen hohe Erfolgsraten habe. Lediglich bei Belästigungen und Hatespeech sind die Erkennungsraten noch miserabel. Das Problem ist wohl nie ganz zu lösen, aber das Facebook arbeite daran, seine Technik immer besser zu machen.

Facebook analysiere vollautomatisch Bilder, Videos, Audioinhalte und Texte auf Inhalte, die den Nutzungsbedingungen widersprechen. Die dafür verwendete KI werde immer besser. Ein Grund dafür sei auch der Einsatz von Self-Supervised-Learning, das die Menge der notwendigen Trainingsdaten für die KI massiv reduziere.

Bei der Erkennung von Bildinhalten kann die Panoptic FPN genannte Technik mittlerweile verschiedenste Bildelemente voneinander trennen. So werden nicht mehr nur noch Personen erkannt, sondern auch der Hintergrund und Objekte, die auf dem Bild zu sehen sind. Bei Videos sei Facebook inzwischen soweit, dass die KI auswertet, welche Teile des Videos wichtig sind und welche nicht. Das kommt nicht nur den Inhaltsfiltern zu gute, sondern auch der automatischen Bildbeschreibung die Facebook seit langem für Sehbehinderte anbietet.

Um den Sprachinhalten auf Facebook Herr zu werden, hat das Unternehmen ein neues "Natural Language Processing"-Werkzeug namens LASER entwickelt. LASER kann die Bedeutung von Sätzen unabhängig von der Sprache erkennen. Es ist also für die Software egal, ob ein User schreibt "Der Hund ist schwarz" oder "The dog is black". So muss Facebook die unterschiedlichen Sätze nicht mehr übersetzen und sie dann in ein NLP-System füttern, sondern übergibt sie direkt an LASER. Das Werkzeug beherrscht mehr als 93 Sprachen aus 30 Sprachfamilien und 20 Schriftsystemen. (mls)