Facebook: Kontrollteams nicht ganz fit, Regierungsanfragen erhöht

Die Pandemie hat die Arbeit der Kontrollteams eingeschränkt. Künstliche Intelligenz muss einspringen. Regierungen fragen mehr an und möchten mehr sperren.

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen

(Bild: Primakov/Shutterstock.com)

Von
  • Kristina Beer

Facebook hat seine jüngsten Berichte zu Kontrollteams, Regierungsanfragen und seinem Bug-Bounty-Programm herausgegeben. In der Bilanz zeigt sich: Die Pandemie hat die Teams für das Inhaltskontrolle-Management nur eingeschränkt arbeiten lassen – dadurch konnte wohl lediglich der gröbste Unrat per Hand aus den sozialen Netzwerken des Unternehmens entfernt werden.

Die Regierungsanfragen und Anfragen von Ermittlungsbehörden nahmen im vergangenen Halbjahr signifikant zu. Woran das liegt, kann größtenteils nur spekuliert werden. Das Bug-Bounty-Programm verlief nach Angaben des Unternehmens allerdings so erfolgreich wie eh und je.

Wie Facebook berichtet, hat sich die Arbeit der Content-Review-Teams im vergangenen Quartal etwas normalisiert. Mit Beginn der Pandemie mussten und durften viele Kontrollteams ihre regulären Arbeitsplätze räumen, um das Infektionsgeschehen zu verlangsamen. Mittlerweile drängt aber angeblich auch Facebook Mitarbeitende zurück ins Büro. Zumindest scheint dies gerade bei Subunternehmen zu geschehen. Unter anderem die BBC berichtet von Kontrollteams, die sich zurück ins Büro gedrängt fühlen und dadurch in ihrer Gesundheit gefährdet sehen. Für das Unternehmen wurde eigentlich noch im August die Parole ausgegeben, dass Mitarbeitende noch bis Sommer 2021 sicher im Homeoffice bleiben dürfen.

Facebook lässt sich in diesem Fall, wie bei vielen anderen Problemen, nicht genau in die Karten blicken, weist aber in seinem Quartalsbericht darauf hin, dass Künstliche Intelligenz einen Teil der nur eingeschränkt arbeitsfähigen Mitarbeiter übernommen hat, damit sich diese um die signifikantesten Fälle kümmern können. Eine Steigerung gegenüber dem zweiten Quartal zeigte sich bei allen Inhaltstypen, die von Kontrollteams in der Regel entfernt werden. Sie umfassen Darstellungen von Gewalt, Missbrauch, Nacktheit und Verfolgung.

Etwa 95 Prozent von Hassrede soll im dritten Quartal proaktiv automatisiert bei Facebook entfernt worden sein. Vom zweiten zum dritten Quartal steigerte sich diese Rate bei Instagram von 85 auf 95 Prozent. Das sei auf eine Verbesserung der eingesetzten Technik zurückzuführen – man habe bei weit verbreiteten Sprachen nachgebessert. Daten zum Umgang mit Hassrede will das Unternehmen zukünftig genauer erfassen.

Die Anfragen durch Ermittlungsbehörden haben im vergangenen Halbjahr weltweit um 23 Prozent zugenommen, erklärt Facebook. In den USA gab es eine Steigerung von 20 Prozent gegenüber dem zweiten Halbjahr im Jahr 2019. Die USA stelle insgesamt die meisten Anfragen, darauf folgen Indien, Deutschland, Frankreich und Großbritannien. Warum es diese Zunahme gab, bleibt offen. Seit Facebook Transparenzberichte herausgibt, werden allerdings jedes Jahr mehr Anfragen registriert.

Die Anfragen nehmen laut Facebook jedes Jahr zu.

Content-Restriktionen, die auf lokale Gesetze zurückzuführen sind, stiegen im untersuchten Zeitraum um 40 Prozent. Facebook fügt hinzu, dass diese Zunahme zum Teil mit lokalen Coronavirus-Maßnahmen zu tun hat.

Seit nun schon fast zehn Jahren unterhält Facebook ein Bug-Bounty-Programm. Auch in diesem Jahr sei das Unternehmen über beachtliche Lücken aufgeklärt worden – zwei davon stellte es exemplarisch vor. Insgesamt seien etwa 17.000 Bug-Reports eingegangen. Mehr als 1000 dieser Eingaben wurden entlohnt. Die meisten Eingaben kamen aus Indien, Tunesien und den USA. Es wurde mehr als 1,98 Millionen US-Dollar an Menschen aus mehr als 50 Ländern ausgeschüttet.

Wie das Unternehmen heute ebenfalls bekannt gab, reichte es in den USA Klage gegen einen Nutzer ein, der automatisiert mehr als 100.000 Instagram-Konten klonte. Der Beschuldigte habe öffentlich einsehbare Instagram-Konten kopiert, um ein eigenes Netzwerk aus Klon-Seiten zu erstellen. Dies verstieße gegen die Nutzungsbedinungen des Unternehmens.

(kbe)