Sprachmodelle: Was ist ein Terrorist, GPT-3?

Die großen Sprachmodelle hinter Chatbots werden mit Unmengen persönlicher Daten aus dem Internet trainiert. Das kann aus Politikern Terroristen machen.

Lesezeit: 13 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 1 Beitrag

                    
                , Screenshot: MIT Technology Review / https://geo-not-available.blenderbot.ai/

lassedesignen/Shutterstock.com

(Bild: Shutterstock)

Von
  • Melissa Heikkilä
Inhaltsverzeichnis

Für einen Reporter, der sich mit Künstlicher Intelligenz befasst, ist eine der spannendsten Entwicklungen dieser Zeit der scheinbar unaufhaltsame Aufstieg der großen Sprachmodelle. KIs, die Texte produzieren, die ein Mensch geschrieben haben könnte – manchmal so überzeugend, dass die Maschinen den Menschen vorgaukeln, sie seien empfindungsfähig. Die Leistungsfähigkeit dieser Modelle beruht auf dem Training mit riesigen Textmengen aus dem Internet. Das hat mich zum Nachdenken gebracht: Welche Daten haben diese Modelle über mich? Und könnten sie missbraucht werden?

Mehr zum Thema KI-Sprachmodelle:

Die Frage hat einen ernsten Hintergrund: Eine wachsende Zahl von Forschenden warnt genau davor – dass KIs gehackt und gezwungen werden können, ihre Trainingsdaten wieder auszuspucken. Auch sensible, private Daten. Und seit einem einschneidenden Erlebnis vor etwa zehn Jahren bin ich ein wenig paranoid, wenn es darum geht, etwas über mein Privatleben öffentlich zu machen. Meine Bilder und persönlichen Informationen wurden damals in einem Online-Forum verbreitet und dann von Leuten lächerlich gemacht, denen meine Kolumne für eine finnische Zeitung nicht gefiel.

OpenAI hat mittlerweile über eine Software-Schnittstelle begrenzten Zugang zu seinem großen Sprachmodell GPT-3 gewährt, und auch der Meta-Konzern lässt Menschen mit seinem Modell OPT-175B herumspielen, und zwar mit einem öffentlich zugänglichen Chatbot namens BlenderBot 3. Ich beschloss, beide Modelle auszuprobieren, und begann damit, GPT-3 zu fragen: Wer ist Melissa Heikkilä?