Menü
Technology Review

Lügenbot entwickelt: Die Wahrheit über das Lügen

Der Maschinenethiker Oliver Bendel hat einen lügenden Chatbot entwickelt mit dem Ziel, Menschen besser vor der Unwahrheit zu schützen.

von
vorlesen Drucken Kommentare lesen 112 Beiträge
Lügenbot entwickelt: Die Wahrheit über das Lügen

Der Satz "Angela Merkel ist Bundeskanzlerin und die beste Rapperin der Welt" hat Oliver Bendel wirklich verblüfft. Denn dieser Satz stammt von einer Maschine, dem von Bendel und Kollegen programmierten "Lügenbot", auf Englisch auch "Liebot" genannt. "Ich habe keine Ahnung, woher er das hat", gesteht Bende, Dozent für Wirtschaftsinformatik an der Fachhochschule Nordwestschweiz, im Interview mit Technology Review (Januar-Ausgabe aktuell am Kiosk verfügbar oder online bestellbar). "Aber es ist besonders perfide. Mit einer richtigen Information wiegt er sein Gegenüber in Sicherheit. Und dann kommt die Lüge."

Er habe den Lügenbot entwickelt, weil "ein paar Kollegen" der Ansicht gewesen seien, dass Maschinen nicht lügen könnten. "Ich fand das falsch und wollte es ausprobieren", sagt Bendel. Sein Bot tauscht beispielsweise bestimmte Begriffe in einer vorgegebenen Aussage durch semantisch ähnliche Begriffe, negiert Aussagen oder vertauscht Zahlen – allerdings nicht immer, sondern per Zufall gesteuert.

"Menschen müssen wissen, dass Maschinen die Unwahrheit sagen können", sagt Bendel. "Wer aufgeklärt ist, kann sich schützen." Sein Fazit aus dem Experiment mit dem Lügenbot: "Die Wissensbasis spielt eine entscheidende Rolle. Ist sie unseriös, kann man nie vermeiden, dass eine Maschine die Unwahrheit sagt – selbst wenn es gar keine Lügenmaschine sein soll".

Am sichersten sei momentan, wenn die Maschine vorgegebene Sätze anwendet und festen Regeln gehorcht, anstatt selbst zu lernen oder Quellen anzuzapfen. "Wenn eine Maschine beispielsweise eine gute Produktberatung machen soll, sollte man viel Geld in eine gute Wissensbasis investieren. Der Weg über künstliche Intelligenz und Schwarmintelligenz ist kürzer und oft billiger. Aber auch gefährlich." (Wolfgang Stieler) / (bsc)

Anzeige
Zur Startseite
Anzeige