Konferenz AAMAS: Roboter sollen intelligenten Ungehorsam lernen

Was, wenn Roboter Befehle bekommen, die gefährliche Situationen herausfordern? Führungshunde könnten dafür als Vorbild dienen, zeigen Forscher nun.

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 21 Beiträge

Lernt, wann er ungehorsam sein muss – ein Blindenhund.

(Bild: Honza Groh, CC BY-SA 3.0)

Von
  • Hans-Arthur Marsiske

Die viel zitierten Robotergesetze von Isaac Asimov fordern unter anderem, dass ein Roboter erstens einem Menschen keinen Schaden zufügen darf und er zweitens den Befehlen eines Menschen Folge leisten muss – sofern dies nicht dem ersten Gesetz widerspricht. Woher aber weiß er, wann das der Fall ist und er die Ausführung eines Befehls verweigern sollte? Zwei US-Forscher haben jetzt einen Vorschlag formuliert, wie dieses schwierige Problem angegangen werden könnte.

Reuth Mirsky und Peter Stone von der University of Texas at Austin orientieren sich dabei an Führungshunden für Blinde und Sehbehinderte. Die sind unter anderem darauf trainiert, eine Vielzahl verschiedener Hörzeichen zu verstehen, zugleich aber auch mögliche Gefahrenquellen im Auge zu behalten. Dabei kann es zu Konflikten kommen, etwa wenn der Mensch an einer Straße den Hund auffordert weiterzugehen, obwohl sich ein Auto nähert. Ein gut ausgebildeter Blindenhund wird in einer solchen Situation den Befehl ignorieren. Mirsky und Stone schlagen nun vor, sich bei der Entwicklung von Assistenzrobotern an diesem Szenario zu orientieren.

Dabei gehe es ihnen zunächst allein um den Entscheidungsprozess, erläuterte Mirsky jetzt bei der Konferenz AAMAS (Autonomous Agents and Multiagent Systems). Fragen der Wahrnehmung, Fortbewegung oder des Designs des Roboters seien zwar ebenso wichtig. So würde ein Roboter, der gut sehen, aber keine hohen Bordsteine überwinden kann, lediglich eine Einschränkung des Sehens gegen eine Einschränkung der Mobilität eintauschen. Die zentrale Herausforderung liege aber in der Fähigkeit zu erkennen, wann „intelligenter Ungehorsam“ angemessen sei.

Dazu müsse der Roboter mehrere Anforderungen berücksichtigen und gegeneinander abwägen. Da sei zunächst das allgemeine und übergeordnete Ziel, die Sicherheit des Nutzers zu gewährleisten. Dazu zähle auch, vorhersehbar zu agieren und logistische Bedingungen im Auge zu behalten, etwa den Ladezustand des Akkus. Sodann gelte es, das jeweils besondere Ziel zu verfolgen. In der Regel sei das ein bestimmter Ort, der erreicht werden soll. Es könne aber auch um die Übermittlung von Informationen gehen, etwa die Ankunft eines Busses an der Haltestelle. Dies sei eine Situation, so Mirsky, wo die Fähigkeiten eines sprachbegabten Roboters die eines Hundes übertreffen könnten.

Verbale Kommunikation könnte auch helfen, eine weitere Anforderung zu bewältigen, nämlich den Plan zu verstehen, dem der Nutzer folgt, um sein Ziel zu erreichen, und gegebenenfalls alternative Pläne in Erwägung zu ziehen. Erst wenn es dem Roboter nicht gelinge, Widersprüche in der Planung aufzulösen, sei der intelligente Ungehorsam gefordert. Hierfür müsse der Roboter ein auf die jeweilige Situation abgestimmtes Maß an Kraft aufwenden, um den Nutzer an der Umsetzung des Plans zu hindern: Wenn etwa der Nutzer sich zu sehr der Seite des Bürgersteigs nähere, sei ein anderes Verhalten erforderlich, als wenn er beim Überqueren der Straße vor einem sich nähernden Fahrzeug geschützt werden müsse.

Mirsky und Stone hoffen, mit dieser Vision eines Führungsroboters für Sehbehinderte als „Grand Challenge“ die Forschungen zu Robotern für den Einsatz in der Pflege und Unterstützung von Hilfsbedürftigen inspirieren zu können. Sie dächten vorerst nicht daran, daraus einen Wettbewerb zu machen, erklärte Stone, der gegenwärtig auch Präsident der RoboCup Federation ist, auf Nachfrage. „Andererseits“, ergänzte er, „liegt das Szenario nicht allzu weit weg von RoboCup@home. Wenn es in dieser Richtung Fortschritte gibt, mag sich auch die Gelegenheit ergeben, es in den RoboCup zu integrieren.“

(mho)