Content-Prüfer für YouTube: Digitale Drecksarbeit

Content-Prüfer für YouTube schildern ihren Job

Trends & News | c't deckt auf

Videos von Hinrichtungen, Hetze, Missbrauch: „Content-Moderatoren“ für YouTube müssen Verstörendes ertragen. Trotzdem werden sie schlecht bezahlt und laufen von einem befristeten Vertrag zum nächsten.

Das Schlimmste für Alexander S. war ein Video, das zeigt, wie ein etwa ein Jahr altes Kind misshandelt und getötet wird. „Die Bilder bekomme ich mein Leben lang nicht mehr aus dem Kopf“, sagt er. Jederzeit könnten die Erinnerungen hochkommen, vor allem, wenn er irgendwo ein Kleinkind sehe.

Es gehört zu seinem Job, solche Videos anzuschauen. S. arbeitet in Hamburg bei dem IT-Dienstleister Cognizant als „Content-Moderator“ für Googles Videoplattform YouTube. Das heißt: Er und seine Kollegen sehen täglich Volksverhetzung, Tierquälerei, Enthauptungen. Sie sperren solche Inhalte, damit möglichst wenige andere Menschen sie zu Gesicht bekommen. Sie erledigen für YouTube die Drecksarbeit.

Der Job sei wichtig für die Gesellschaft, sagt S. Deswegen halte er durch, deswegen ertrage er die Gewalt und die Hetze. „Es wäre Wahnsinn, wenn solche Inhalte ungefiltert rausgehen.“ Irgendjemand müsse diesen Job eben machen, das sei unvermeidbar.

S. hat sich an c’t gewendet, weil er weitere problematische Aspekte seines Jobs öffentlich machen möchte. Dinge, die auch anders sein könnten.

„Man müsste einen sicheren Arbeitsplatz haben, um den Content wenigstens einigermaßen verarbeiten zu können“, sagt er. Stattdessen gebe es strenge Leistungskontrollen, niedrige Gehälter, befristete Verträge, unklare Zukunftsaussichten. Zwar hätten auch Mitarbeiter wegen der grausamen Videos gekündigt. „Aber ich würde sagen, die Mehrheit ist wegen der schlechten Arbeitsbedingungen gegangen.“

S. schildert seine Tätigkeit detailliert, schickt uns Fotos aus dem Büro und seinen Arbeitsvertrag. Damit belegt er aus unserer Sicht zweifelsfrei, dass er tatsächlich für Cognizant arbeitet. Um seine Aussagen zu prüfen, kontaktieren wir zwei weitere Cognizant-Angestellte, Lennard T. und Adrian K.. Auch mit ihnen sprechen wir ausführlich.

Cognizant-Büros in Hamburg: Mitarbeiter beschweren sich über befristete Verträge und geringe Gehälter.

Alle drei betonen auch positive Aspekte der Arbeit für Cognizant. Es gebe kostenloses Obst, Süßigkeiten, Teamevents. Vor allem tue der Arbeitgeber viel, um die psychische Belastung so gut wie möglich zu begrenzen. Wer von einem Video traumatisiert sei, könne sich jederzeit in einen Ruheraum setzen oder nach Hause gehen. Die Prüfer könnten auch kurzfristig mit Psychologen eines Hamburger Instituts sprechen. „Das funktioniert relativ gut“, sagt S.

Davon abgesehen kritisieren die drei – unabhängig voneinander, aber in den wesentlichen Punkten übereinstimmend – die Arbeitsbedingungen. Um sie vor Sanktionen durch Cognizant oder Google zu schützen, verwenden wir in diesem Text Pseudonyme.

Cognizant ist einer der größten IT-Dienstleister der Welt. Die Zentrale befindet sich in den USA; die meisten der rund 280.000 Angestellten arbeiten jedoch in Indien. Die Content-Prüfung am Standort Hamburg beschreibt der Konzern in einer Stellenanzeige: Es gehe um die „Social Media Analyse für die meist geliebte Videoplattform der Welt“ und um das „Analysieren sensibler Inhalte, die manchmal sehr graphisch oder verstörend sein können“. In Aussicht gestellt werden ein „attraktives Vergütungsmodell (über Mindestlohn)“ und ein „befristeter Arbeitsvertrag mit Option auf Verlängerung“.

Schon vor der Recherche von c’t hat das Unternehmen angekündigt, sich langfristig weltweit aus dem Geschäft mit Content-Prüfung zurückzuziehen. Auf Anfrage erklärt eine Sprecherin, einige Projekte würden 2020 auslaufen, andere könnten länger dauern. Unsere konkreten Fragen zum Standort Hamburg und den dortigen Arbeitsbedingungen beantwortet Cognizant nicht. Selbst unsere Frage nach der Zahl der Mitarbeiter blieb unbeantwortet.

Laut den Aussagen von S., T. und K. sind in Hamburg etwa 120 Cognizant-Mitarbeiter für YouTube tätig. Tatsächlich im Dienst seien aktuell aber weniger, vor allem wegen Krankheitsausfällen. Rund die Hälfte der Angestellten prüfe Inhalte gemäß der weltweiten „Community-Standards“ von YouTube, die andere Hälfte gemäß des deutschen Netzwerkdurchsetzungsgesetzes (NetzDG).

Das 2017 in Kraft getretene NetzDG verpflichtet große Plattformen wie YouTube, von Nutzern gemeldete Videos und Kommentare auf 21 Straftatbestände zu prüfen. „Offensichtlich rechtswidrige Inhalte“ müssen die Betreiber laut Gesetz binnen 24 Stunden sperren.

So einfach, wie es im Gesetz klingt, ist das in der Praxis nicht. Die Prüfer müssen komplexe juristische Entscheidungen treffen, zwischen der grundgesetzlich geschützten Meinungsfreiheit und dem Strafgesetzbuch abwägen. Auch die Auslegung von YouTubes „Community-Standards“ ist alles andere als trivial.

Viel Zeit bleibt den Prüfern dafür nicht. K. sagt, jeder fälle rund 100 bis 150 Entscheidungen pro Arbeitstag. Nach bestimmten Ereignissen, etwa dem Terroranschlag auf Moscheen in Christchurch, werde es noch viel stressiger. Zur Qualitätskontrolle prüften Manager die Entscheidungen stichprobenartig, sagen die drei.

Die Gesamtzahl der Entscheidungen und die Fehlerquote jedes Prüfers würden automatisch per Software erfasst. Vorgesetzte achteten auch auf die Quantität – wichtiger für eine Beförderung sei jedoch die Fehlerquote. Viele Mitarbeiter fänden das System unfair, meint K. Müsse jemand durch Zufall besonders komplexen oder belastenden Content prüfen und mache deshalb Fehler, habe er kaum noch eine Chance auf ein Gehaltsplus.

Fragwürdig wirkt die geschilderte Vorgehensweise auch aus datenschutzrechtlicher Sicht. Softwarebasierte Leistungskontrollen sind zwar nicht generell verboten. Die Maßnahmen von Arbeitgebern dürften aber nicht zu einem „psychischen Anpassungs- und Leistungsdruck“ bei den Beschäftigten führen, betont eine Sprecherin der Hessischen Datenschutzbehörde auf Anfrage.

Aus Sicht von S., T. und K. ist die Leistungskontrolle jedoch nicht das größte Problem. Schärfer kritisieren sie die Gehälter, die Cognizant für die anspruchsvolle und psychisch schwer zu ertragende Arbeit zahlt. Das Einstiegsgehalt der Prüfer liege bei etwa 28.000 Euro brutto jährlich. Für einen Single sind das monatlich ungefähr 1570 Euro netto – alles andere als komfortabel angesichts der hohen Hamburger Mieten. Nach den Angaben der drei verdient selbst ein „Senior Reviewer“ in der Regel nur rund 31.000 Euro.

„Das Unfaire ist: Würden wir direkt bei Google arbeiten, würden wir alle das Doppelte verdienen“, betont K. Die Gehälter bei Google Deutschland sind nicht bekannt. In den USA zahlt der Google-Konzern Alphabet seinen Mitarbeitern laut einer Studie der Beratungsfirma Equilar im Schnitt etwa 200.000 US-Dollar im Jahr.

»Bei Google würden wir alle das Doppelte verdienen

Auch S. sagt: „Google sollte es selbst machen, statt die Aufgabe an irgendwelche Dumpingfirmen auszulagern“. Google wolle vermeiden, dass eigene Mitarbeiter wegen der psychischen Belastung „durchdrehen“, meint T.

Ein Google-Sprecher sagte auf Anfrage, die Zusammenarbeit mit Drittanbietern sei nötig, um YouTube als freie Plattform zu erhalten und Nutzern gleichzeitig ein sicheres Umfeld zu bieten. Man habe aber auch eigene Prüfteams und eine maschinelle Prüfung. Weltweit beschäftige man 10.000 Mitarbeiter im „Trust & Safety Team“. Wie viele davon intern und wie viele extern arbeiten, verriet Google nicht. Weitere Fragen von c’t zur Arbeit der Prüfer blieben ebenfalls unbeantwortet.

Laut den dreien hat Google mit Cognizant einen Drei-Jahres-Vertrag geschlossen. Die Prüfer hätten jedoch von Cognizant nur Jahresverträge erhalten. Auch das ist aus ihrer Sicht alles andere als fair. S. spricht von „ständigen Existenzängsten“. Auch T. erzählt, dass Mitarbeiter immer wieder um neue Verträge zittern müssten und vorsorglich zum Arbeitsamt gingen. „Da geht es nur um Ressourcen, nicht um das Humane.“ (cwo)



Viele der c’t-Investigativ-Recherchen sind nur möglich dank Informationen, die Leser und Hinweisgeber direkt oder anonym an uns übermitteln.

Wenn Sie selbst Kenntnis von einem Missstand haben, von dem die Öffentlichkeit erfahren sollte, können Sie uns einen anonymen Hinweis oder brisantes Material zukommen lassen. Nutzen Sie dafür bitte unseren anonymen und sicheren Briefkasten.



Dieser Artikel stammt aus c't 25/2019.

Kommentare

Kommentare lesen (139 Beiträge)