Asimovs Automatobile

Bild: Disneyland TV, Episode "Magic Highway, USA" (1958)

Selbstständig fahrende Autos in Fiktion und Realität und als Gegenstand der Maschinenethik

In seiner Kurzgeschichte "Sally" aus dem Jahre 1953 beschreibt Isaac Asimov in visionärer Weise die Funktionen sowie die Chancen und Risiken selbstständig fahrender Autos. Heute nehmen Assistenzsysteme dem Lenker immer mehr Aktionen ab. Das selbstständig fahrende Auto ist morgen nicht mehr Prototyp, sondern Alltag. Es wird in Situationen geraten, in denen moralische Fähigkeiten von Vorteil sind. Man wird bei Asimov bereits mit Problemen konfrontiert, die in der Maschinenethik diskutiert werden.

Sally ist ein Cabriolet und seit fünf Jahren der "Liebling" von Jacob Folkers, des Ich-Erzählers der Kurzgeschichte. Er betreibt eine Farm, auf der ausgediente Privatautomatics (auch "Automatobile" genannt), selbstständig fahrende Autos, ihr Gnadenbrot erhalten. Die Limousinen sind in seiner Vorstellung männlich, die Cabrios weiblich.

Sally besitzt "die schönsten, feinsten Linien", die er "je bei einem Modell gesehen" hat. Um ihr Aussehen kümmert sie sich selbst. Wie die anderen Automatics auf der Farm kann sie sich putzen, und sie kann sich sogar wachsen und polieren. Folkers will diese Funktion in alle Cabriolets einbauen, denn diese seien sehr eitel. Sally ist nicht nur attraktiv, sondern auch frei, geradezu autonom. In ihrer Zeit auf der Farm hat "nie ein menschliches Wesen hinter ihrem Lenkrad gesessen".

Eines Tages kommt Raymond J. Gellhorn auf die Farm. Er will die blechernen Bewohner ausschlachten, ihre alten Motoren aus- und in neue Gefährte einbauen. Automatobile sind beliebt, aber teuer. Die meisten Menschen fahren nur mit Omnibus-Automatics (auch Automatobusse genannt) durch die Gegend. Folkers erzählt dem Leser:

Ich kann mich daran erinnern, dass es auf der ganzen Welt kein Auto gab, das Verstand genug besaß, seinen Weg allein zu finden. Ich hatte tote Maschinen chauffiert, deren Steuerung jede Minute eine menschliche Hand benötigte. Jedes Jahr hatten solche Maschinen Zehntausende von Menschen getötet. Die Automatics hatten das abgeschafft. Ein Positronengehirn kann natürlich viel schneller reagieren als ein menschliches, und die Leute konnten ihre Hände von der Steuerung lassen. Man setzt sich hinein, gibt den Bestimmungsort an, und der Wagen findet seinen Weg.

Bei der Einführung traten durchaus Widerstände auf:

Heute erscheint uns das alles selbstverständlich, aber ich kann mich noch an die Zeiten erinnern, als die Gesetze die alten Maschinen von den Autobahnen zwangen und nur noch Automatics zuließen. Gott, was für ein Aufruhr! Sie nannten es alles Mögliche, von Kommunismus bis Faschismus, aber es leerte die Autobahnen und beendete das Töten, bis sich die Automatics schließlich durchsetzten.

Bereits auf den ersten Seiten werden Prinzipien, Funktionen und Chancen selbstständig fahrender Autos treffend beschrieben. Diese werden von einem künstlichen Gehirn gesteuert. Sie können mit Hilfe von Beobachtungs- und Navigationssystemen durch die Welt und zum gewünschten Ort fahren. Sie können schnell reagieren, optimieren voraussichtlich die Verkehrsflüsse und reduzieren wahrscheinlich die Zahl von Unfällen mit Todesfolge. Weltweit werden im Jahr etwa eine Million Menschen und einige Milliarden Tiere im Straßenverkehr getötet. Diese Zahlen schreien nach einem radikalen Wandel.

Es wurden mehrere Projekte zu selbstständig fahrenden Autos begonnen. Zu den bekanntesten gehören das von Google und SARTRE von der EU. BMW, Audi und mehrere deutsche Forschungsrichtungen engagieren sich. Die Assistenzgeräte, die verbaut werden, sind Vorstufen zu selbstständig fahrenden und autonom handelnden Autos. Sie ermöglichen das selbstständige Einparken und bremsen automatisch in Staus und Gefahrensituationen. Sie betätigen die magnetische Handbremse und schalten die Scheinwerfer im Tunnel und in der Nacht ein. Sie können immer mehr, von dem man dachte, dass es nur Menschen können. Manche ihrer Entscheidungen sind auch ein Gegenstand der Maschinenethik.

Google autonomous car auf einem Testparcour. Bild: Steve Jurvetson. Lizenz: CC-BY-2.0

Asimov beschreibt nicht nur die Chancen mit erstaunlicher Klarsicht, sondern auch die Reaktionen der Gesellschaft und die Risiken der Innovation. Selbstständige fahrende Autos entmündigen die Bürgerinnen und Bürger in einem weiteren Lebensbereich. Sie ersetzen die menschliche Autonomie durch die maschinelle. Man fühlt sich ähnlich wie in einem Flugzeug, das ein sicheres Fortbewegungsmittel sein mag, dessen Flug man aber nicht beeinflussen kann. Mit einem wichtigen Unterschied: Am Steuer sitzt kein Pilot, sondern eine Maschine.

Natürlich lassen die Automatics aus Fiktion und Realität (wie auch die Flugzeuge aus der Perspektive von Pilot und Co-Pilot) einen manuellen Betrieb zu. Bei gleichzeitiger persönlicher Haftung. Als in der Geschichte ein Unfall passiert, wird von der Polizei "eindringlich davor gewarnt, nach Anbruch der Nacht mit Handbetrieb zu fahren". Eine Zunahme der "Autoautonomie" dürfte weitere Effekte haben. Asimovs Geschöpfe (ver-)brauchen permanent Benzin. Moderne Wagen sparen freilich auch Energie durch ihre Automatismen.

Moralmodul für Roboter

Die Ethik bezieht sich üblicherweise auf die Moral von Menschen, von Individuen und Gruppen, und in gewissem Sinne auf die Moral von Organisationen, wie man bei der Unternehmensethik sehen kann. Es kann aber auch um die Moral von Maschinen wie Sprachassistenten, Robotern und Drohnen gehen, von medizinischen und technischen Überwachungsanlagen sowie Rechnern im Hochfrequenzhandel. Und von selbstständig fahrenden Autos, auf die der verbreitete Begriff "Unmanned Ground Vehicle (UGV)" nur eingeschränkt passt, weil ein Mensch durchaus anwesend ist, nur eben als "Beifahrer". Handelt es sich um mehr oder weniger autonome Programme und Systeme dieser Art, kann man von einer Maschinenethik sprechen und diese der Informationsethik (genauer Computerethik und Netzethik) und der Technikethik zuordnen oder aber, weil sie anscheinend auf eine nichtmenschliche Moral zielt, als Pendant zur Menschenethik auffassen. In den USA ist die Maschinenethik, wie die Roboterethik, eine sich allmählich etablierende Disziplin.

In einer Kurzgeschichte des Verfassers, die in einen Beitrag zur Maschinenethik eingebettet ist, fährt ein New Autonomous Car (NAC) mit Kim, seiner Besitzerin und Erfinderin, durch eine Stadt, als seine Bremsen versagen. Er muss sich entscheiden, ob er den Bürgermeister auf dem Trottoir zur Linken, die Bürgerrechtlerin im entgegenkommenden Auto oder eine Gruppe spielender Kinder auf dem Trottoir zur Rechten tötet. Für NAC hat Kim einen integrierten Ansatz gefunden. Es werden die Likes und die Favorites der sozialen Medien ausgewertet, Blogosphären und Wikipedia analysiert, Artikel und Kommentare gescannt. Zu solchen Verfahren möchte man, nicht nur aus datenschutzrechtlichen Bedenken, nicht wirklich raten. Weiterhin kann das Moralmodul auf eine Datenbank mit Cases zugreifen. Wie haben sich Menschen in vergleichbaren Situationen verhalten? Wie wurde ihr Verhalten von anderen beurteilt, von Individuen und Medien?

Junior, ein autonomer VW Passat auf Erprobungsfahrt an der Stanford University (2009). Bild: Steve Jurvetson. Lizenz: CC-BY-2.0

Nicht zuletzt stehen die Gespräche mit Kim zum Abruf bereit, in deren Verlauf das Auto dazugelernt hat, die Erzählungen der Nobelpreisträgerin, ihre Beurteilungen, ihre Reflexionen und Intuitionen. Die Maschine orientiert sich also an Menschen (und an Manipulationen), an den moralischen Fakten (und an Fakes) der Vergangenheit und der Gegenwart. Sie hat mit ihrer Erfinderin eine Referenzperson in moralischen Dingen. Und sie hat ihren eigenen Kopf, auch wenn in diesem vor allem Chips sind. Es ist nicht völlig klar, was am Ende den Ausschlag gibt. Jedenfalls überlebt der Bürgermeister den Aufprall nicht.

Jacob Folkers ist entrüstet über das Ansinnen des skrupellosen Geschäftsmanns. Seine Sally ist fast seine Geliebte, und auch die anderen Autos sind ihm ans Herz gewachsen. Sie erscheinen ihm nicht nur als regelrechte Persönlichkeiten, sie sind es, und wenn Sally fröhlich oder amüsiert ist, öffnet sie ihre beiden Türen und schlägt sie mit einem Knall wieder zu: "Das ist Sallys Art zu lachen." Nachdem Gellhorn das Cabrio "bewusstlos geschlagen" hat und mit ihm eine Runde gefahren ist, bei der er das Leben zweier Limousinen gefährdet, wird er aus der Farm hinausgeworfen. Aber er kehrt mit seinen Komplizen und einem Automatobus zurück. Er will 25 positronische Motoren abklemmen und mitnehmen. Dabei hat er seine Rechnung ohne die Privatautomatics gemacht. Sie jagen und eskortieren ihn, wobei Sally eine heldenhafte Rolle spielt. Am Ende wird er von seinem eigenen Bus getötet. Es stellt sich heraus, dass die Autos miteinander kommunizieren können, und offensichtlich haben die Automatobile den Automatobus angestiftet. Das erschüttert Folkers zutiefst und verändert das Verhältnis zu seinem Liebling: "In letzter Zeit bemerke ich, dass ich selbst Sally meide."

Auch in der Kurzgeschichte mit NAC kommunizieren die Autos miteinander. NAC erfährt auf diesem Weg, wer im entgegenkommenden Wagen sitzt; denn er sieht nur eine Frau mit einer großen Sonnenbrille und kann sie mit seiner Gesichtserkennung, anders als im Falle des Bürgermeisters, nicht identifizieren. Die Realität ist von solchen Möglichkeiten nicht weit entfernt. Es sind bereits Modelle auf dem Markt, die über Bilderkennung verfügen, und verschiedene Projekte zielen darauf ab, dass Autos miteinander kommunizieren können. In der Regel wird es darum gehen, den Abstand, die Richtung und das Ziel zu bestimmen und damit den Verkehr zu optimieren; aber es wäre auch möglich, Angaben zum Wert des Wagens und zu den Insassen zu erhalten. Bei einem Unfall - wie er sich selbst in der schönen neuen Welt nicht ausschließen lässt - könnten die Autos untereinander den Schaden besprechen und ausgleichen. Sie könnten auch vor einem Unfall eine Entscheidung treffen, die den geringsten monetären oder physischen Schaden zur Folge hat.

Damit sind wir wieder mitten in der Maschinenethik und in der Ethik überhaupt. Es ist durchaus sinnvoll, dass (teil-)autonome Maschinen moralisch relevante Entscheidungen treffen. Dabei muss man aufpassen, dass sich diese Entscheidungen nicht gegen die Armen und Schwachen wenden. Bei Asimov können sich nur die Reichen ein Automatobil leisten; die Armen fahren mit dem Automatobus. Es wäre fatal, wenn man sich nicht mehr sicher auf den Straßen fühlen könnte, weil die Maschinen zu intelligent und zu gerissen sind und einen aus vorgeschobenen Gründen benachteiligen.

Insofern muss man darauf achten, dass die Maschinenethik moralisch bleibt, was keine Selbstverständlichkeit ist. Wissenschaft, auch Ethik, will möglichst viel, manchmal zu viel. Und man muss bereits zum jetzigen Zeitpunkt mit den Automobilherstellern sprechen. Wenn ein Nachtsichtgerät zwischen Tieren und Menschen unterscheiden kann, wie bei einem seit kurzem erhältlichen Modell von Daimler - was bedeutet das für die Praxis? Überlässt man dem Menschen die Entscheidung oder überträgt sie auf das Auto? Wann bremst das Auto, wann nicht, für wen, für wen nicht? Mit anderen Worten: Wer bleibt am Ende des Tages auf der Strecke? Das sind Fragen, auf die Maschinenethik, Künstliche Intelligenz, Informatik und Wirtschaft schlüssige Antworten finden sollten.

Anmerkungen

Die Zitate sind aus: Isaac Asimov. Alle Robotergeschichten. 4. Aufl. Bastei Lübbe, Köln 2012. Ein Rechtschreibfehler, der in der deutschen Übersetzung entstanden ist, wurde korrigiert; im Buch heißt es, fälschlicherweise mit Plural: "Ich hatte tote Maschinen chauffiert, deren Steuerung jede Minute eine menschliche Hand benötigten."

Die Süddeutsche schreibt am 3. Juli 2013: "So erkennt die neue S-Klasse beispielsweise durch ein Nachtsichtgerät Tiere bei Dunkelheit, kann sie von Fußgängern unterscheiden und leitet für Menschen gegebenenfalls selbständig ein Vollbremsung ein." Daimler (Abteilung Research & Development, Center Vehicle Concepts and Future Trends, Society and Technology Research Group) hat im August 2013 dem Verfasser auf Anfrage mitgeteilt, dass das Nachtsichtsystem ein rein informierendes System sei. Bremsungen "auf detektierte Objekte" würden nicht eingeleitet.

Oliver Bendel ist studierter Philosoph und promovierter Wirtschaftsinformatiker und leitete technische und wissenschaftliche Einrichtungen an Hochschulen. Heute lehrt und forscht er als Professor für Wirtschaftsinformatik an der Hochschule für Wirtschaft in Brugg und Olten (Fachhochschule Nordwestschweiz FHNW), mit den Schwerpunkten Wissensmanagement, Social Media, Mobile Business und Informationsethik, und lebt als freier Schriftsteller in Zürich. Weitere Informationen über oliverbendel.net, informationsethik.net und maschinenethik.net.