Blogger enttarnt künstlich intelligenten Bot auf Reddit

Sorgen wegen täuschend echter Texte auf Grundlage des Sprachmodells GPT-3 scheinen sich zu bestätigen: Im Web wurden damit viele Nutzer in die Irre geführt.

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 229 Beiträge

(Bild: MS. TECH)

Von
  • Will Douglas Heaven
Inhaltsverzeichnis

Eine Woche lang veröffentlichte ein Bot auf der Grundlage des modernen Sprachmodells GPT-3 von OpenAI Beiträge auf Reddit, bis er enttarnt wurde. Unter dem Nutzernamen /u/thegentlemetre tauschte er sich mit anderen Teilnehmern von /r/AskReddit aus, einem populären Forum für allgemeine Themen mit 30 Millionen Mitgliedern. Ungefähr einmal pro Minute schickte er Nachrichten ab, wenn er aktiv war.

Das war nicht das erste Mal, dass Werke von GPT-3 von Menschen für echt gehalten wurden. In diesem August veröffentlichte ein Student einen Blog-Beitrag, der auf Platz 1 der Hacker News kam und ihm einige Abonnenten einbrachte.

Außerdem wurden mit GPT-3 schon mehrere Artikel über das Werkzeug selbst produziert, an deren Ende aber meist ein von Menschen geschriebener Hinweis darauf stand. Der aktuelle Bot dagegen trat auf wie ein normaler menschlicher Nutzer und veröffentlichte hunderte Beiträge, bis er erkannt wurde.

Die vielen Beiträge des Bots weckten Philip Winstons Argwohn, der in seinem Blog beschreibt, wie er ihn enttarnte. Dazu überprüfte er, ob die Sprache der verdächtigen Posts den Ergebnissen eines anderen Werkzeugs auf der Basis von GPT-3 namens Philosopher AI ähnelte.

Dieses wurde programmiert, um nicht ganz ernst gemeinte Fragen zu beantworten wie "Wenn ein Baum im Wald umfällt und niemand das hört, steht Quantenmechanik dann ohne Beobachter immer noch für die klassische Realität?" Der Entwickler von Philosopher AI erlaubt keine automatisierte Nutzung seines Dienstes. Als er von dem Reddit-Bot hörte, blockierte er ihn, und es folgten keine weiteren Beiträge mehr.