Künstliche Intelligenz: Facebook veröffentlicht KI-Chatbot Blender als Open Source

Facebooks Abteilung für KI-Forschung präsentiert den Chatbot namens Blender, der menschlicher sein soll als Googles unveröffentlichter Chatbot Meena.

Lesezeit: 1 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 16 Beiträge

(Bild: Tatiana Shepeleva/Shutterstock.com)

Von

Unter dem Namen Blender stellt Facebooks KI-Abteilung FAIR einen Chatbot als Open-Source-Projekt zur Verfügung. Nach einigen Jahren der Forschung im Bereich Conversational AI sei es Facebook nach eigenen Angaben gelungen, einen Chatbot zu entwickeln, der sich menschlicher anfühle als andere.

Blender soll Fähigkeiten in Gesprächen wie das Annehmen von Personae, die Fähigkeit in zahlreichen Themen zu diskutieren und sogar Einfühlungsvermögen mitbringen. Facebook sieht sich mit dieser Entwicklung an der Spitze der bisher entwickelten Chatbots.

Blender wurde mithilfe großer Textsammlungen mit bis zu 9,4 Milliarden Parametern trainiert. Damit will das Unternehmen 3,6 Mal mehr Parameter als bereits existierende Systeme verwendet haben. Für die Schulung neuronaler Transformer-Netze griff das Team auf 1,5 Milliarden als Public Domain verfügbare Gesprächsdaten zu, die extrahierte Konversationen umfassten. Aufgrund der Größe der neuronalen Netze hat Facebook auf spaltenweise Modellparallelität gesetzt. Die neuronalen Netze will das Unternehmen auf diese Weise ohne Effizienzverlust in kleinere Teile zerlegt haben.

Das Training durch öffentlich zugängliche Gesprächsdaten hat Facebook weiter ausgebaut. Das Erlernen der Fähigkeiten allein reiche nicht aus, um einen guten Gesprächspartner zu imitieren. Fähigkeiten, wie das Annehmen einer Persönlichkeit (PersonaChat), das Nutzen von Wissen (Wizard of Wikipedia) sowie die Darstellung von Einfühlungsvermögen (Empathetic Dialogues) gilt es miteinander zu vermischen.

Dafür hat das Entwicklerteam den Datensatz Blended Skill Talk (BST) eingerichtet und greift damit auf bisherige Forschungsergebnisse zurück. Mithilfe des BST-Datensatzes können Systeme gebaut werden, die die genannten Verhaltensweisen miteinander kombinieren und so auf individuelle Gesprächsverläufe reagieren können.

Im nächsten Schritt haben die Entwickler untersucht, wie gut der Chatbot das nächste Wort vorhersagen und generieren kann. Damit sich das System nicht wiederholt oder andere Probleme aufweist, verwenden Forscher nach dem Training eine Reihe möglicher Generierungsstrategien wie Beam Search. Facebook setzt auf eine sorgfältige Auswahl von Such-Hyper-Parametern und auf eine Abstimmung der Mindestlänge für den Beam, um die Kontrolle über die Vielfalt der möglichen Antworten zu erhalten.

Facebook hat Blender mit Googles noch nicht veröffentlichten Chatbot Meena verglichen. Zur Evaluierung des eigenen Projektes griff das Unternehmen auf etwa 100 bereits veröffentlichte und zufällig gewählte Protokolle von Meena zu. 67 Prozent der von Facebook gewählten Gutachter gaben an, dass Blender menschlichere Züge aufweist und 75 Prozent würden Blender für ein Gespräch bevorzugen. Nähere Informationen zur Evaluation und zu Blender finden sich im Ankündigungsbeitrag auf dem Facebook-AI-Blog. Die Ergebnisse der Evaluation sind selbstverständlich kritisch zu betrachten. (mdo)