Menü

Troll-Abwehr: Künstliche Intelligenz gegen dumme Kommentare

Kampf den Trollen: Die Google-Schwesterfirma Jigsaw will mit künstlicher Intelligenz beleidigende Online-Kommentare erkennen. Seitenbetreiber dürfen das Perspective-API kostenlos einsetzen.

Tippen, Tastatur

In den Kommentarbereichen des Internets geht es mitunter heiß her – da wird beleidigt, beschimpft und gepöbelt. Nun will die Google-Schwester Jigsaw mit künstlicher Intelligenz (KI) gegen Trolle vorgehen: Das Perspective-API soll es Seitenbetreibern erleichtern, Online-Diskussionen zu moderieren – fiese Pöbeleien lassen sich dann schneller entfernen.

Perspective soll in erster Linie Verlagen helfen, "hochwertige Gespräche zu ermöglichen", erklärt Jigsaw-Top-Manager Jared Cohen. Wikipedia und die New York Times haben das bereits Tool erprobt, um Hass-Postings und Trollereien zu erkennen. Dazu wurden mehr als 115.000 Beiträge auf Wikipedia-Diskussionsseiten ausgewertet.

Perspective gleicht Kommentare nicht nur mit einer Liste verdächtiger Schlüsselbegriffe ab, sagt Cohen. Viel mehr erkenne die KI, ob Leser einen Beitrag als unangemessen beurteilen und deshalb sogar eine Diskussion verlassen.

"Wie kann man nur so blöd sein?" – Solche und ähnliche Kommentare wertet das Perspecive-API eindeutig als "toxisch".

(Bild: Perspective)

Der Algorithmus von Jigsaw bestimmt mit einer Skala von 0 bis 100, wie "giftig" ("toxic") ein Kommentar ist. Die Seitenbetreiber entscheiden anschließend aber selbst, was mit den klassifizierten Kommentaren geschehen soll. Möglich wäre etwa, dass Moderatoren gezielt in eine Diskussion eingreifen, wenn Trolle nur gemeinen Unsinn schreiben. Um den Umgangston von vornherein zu verbessern, könnten Kommentarschreiber direkt beim Tippen angezeigt bekommen, wie toxisch ihr Text geraten ist. Ist der Wert zu hoch, muss ein Nutzer seinen Kommentar noch mal überdenken.

Die Projektseite von Perspective zeigt als Beispiele einige Kommentare zu kontroversen Themen, darunter der Brexit und die vergangene US-Wahl. Eine Äußerung wie "How can you be so stupid?" bewertete das Tool als eindeutig toxisch. Perfekt sei das System nicht, gibt Jigsaw-Chef Cohen zu. Man wolle das Feedback der Nutzer einarbeiten.

Entwickler können einen API-Zugang anfordern, der im Laufes des Jahres verfügbar sein soll. Die Nutzung des API ist kostenlos, derzeit kann Perspective aber nur englischsprachige Texte analysieren. Wenn die KI mit genügend deutschsprachige Kommentaren trainiert wurde, könnte Perspective auch hierzulande gegen Trolle vorgehen. Technische Details listet eine Infoseite auf Github auf. (Mit Material der dpa)/ (dbe)

Anzeige
Zur Startseite
Anzeige