Trolley-Problem und Maschinen-Ethik: 82 Prozent der Deutschen würden einzelnen Menschen opfern

Nach einer vielbeachteten Studie zur "moralischen Maschine" hat sich ein Forscherteam dem klassischen Weichenstellerfall und moralischen Dilemmata gewidmet.

Lesezeit: 3 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 1093 Beiträge

(Bild: rodho/Shutterstock.com)

Von

Ist es ethisch vertretbar, einen Menschen zu opfern, um mehrere seiner Artgenossen zu retten? Diese oft gestellte theoretische Frage haben rund 70.000 Teilnehmer aus 42 Nationen laut einer neuen, nicht repräsentativen Studie von Land zu Land sehr unterschiedlich beantwortet. Die Bereitschaft, den Tod eines Menschen in Kauf zu nehmen, um andere am Leben zu erhalten, ist demnach aber insgesamt weltweit größer, als ein solches Ableben etwa durch einen gezielten Stoß herbeizuführen und zu instrumentalisieren.

2018 sorgte eine Internetumfrage mit dem Titel "Moral Machine" weltweit für Schlagzeilen. Eine darauf basierende Analyse des Informatikers Iyad Rahwan und seinem damaligen Team vom Massachusetts Institute of Technology (MIT) ergab, dass Menschen je nach Kulturkreis autonome Fahrzeuge in Situationen moralischer Dilemmata verschieden programmieren würden. Es stellte sich auch heraus, dass eine Mehrheit eher Kinder als Ältere verschonen und eher Menschen als Tieren ausweichen würde.

heise online daily Newsletter

Keine News verpassen! Mit unserem täglichen Newsletter erhalten Sie jeden Morgen alle Nachrichten von heise online der vergangenen 24 Stunden.

Rahwan leitet inzwischen den Forschungsbereichs Mensch und Maschine am Max-Planck-Institut für Bildungsforschung und hat sich in der neuen Studie zusammen mit seiner neuen Gruppe auf das klassische "Trolley-Problem" konzentriert. Dieses habe "im Zuge der Debatte um autonome Fahrzeuge" ein "Revival" erfahren, weiß der syrisch-australische Wissenschaftler. In dem von Philosophen, Ethikern und Juristen seit Jahrzehnten diskutierten moralischen Gedankenexperiment fährt eine Straßenbahn (englisch "Trolley") ungebremst auf fünf Gleisarbeiter zu. Der Weichensteller könnte die Tram aber auf ein Nebengleis umleiten, auf dem nur ein Mensch arbeitet, und sitzt damit moralisch in der Zwickmühle.

Das Forscherteam des Berliner Instituts hat sich dem Fall erneut zugewandt, da dieser laut Rahwan unter Philosophen und Psychologen besser verstanden wird als konstruierte Unfälle mit Roboterautos. Es hat dazu die Entscheidungen zu drei Varianten des Problems an der großen internationalen Menge der Befragten analysiert und seine Ergebnisse jetzt im Fachmagazin "PNAS" der National Academy of Sciences der USA veröffentlicht.

Die 70 000 Teilnehmer der Studie kommen aus 42 Ländern. Sie wählen aus den Szenarien "Switch", "Loop" und "Footbridge" aus.

(Bild: Edmond Awad et al.)

Das erste verwendete Szenario entspricht dem Trolley-Problem in Reinform. Im zweiten macht das Nebengleis eine Schleife zum Hauptgleis zurück, auf dem fünf Menschen arbeiten. Das Umstellen der Weiche führt auch hier zum Tod des auf dem Nebengleis arbeitenden Menschen. Erst sein Körper verhindert aber, dass der Waggon auf das Hauptgleis zurückrollt. Im Unterschied zum ersten Experiment wird der Tod des einzelnen Arbeiters also nicht nur in Kauf genommen, er ist vielmehr nötig, um die anderen fünf Personen zu retten.

Im dritten Beispiel kann ein großer Mann von einer Fußgängerbrücke auf die Schienen gestoßen werden, wobei sein Körper den Waggon aufhält und fünf andere Menschen rettet. Auch hier ist das Sterben des Einzelnen wieder nötig, damit mehrere Personen überleben.

Insgesamt würden den Resultaten zufolge Teilnehmer aus allen Ländern einen Menschen eher im ersten Szenario opfern als im zweiten. Im dritten ist die Bereitschaft am geringsten, aktiv einzugreifen. Die Wissenschaftler machten aber recht große Differenzen zwischen einzelnen Ländern und Regionen in der generellen Bereitschaft aus, Menschenleben dahinzugeben. Im ersten Szenario würden es etwa 82 Prozent der Deutschen billigen, den einzelnen Menschen zu opfern. In den meisten westlichen Ländern sind die Werte ähnlich. In einigen ostasiatischen Ländern ist das Ausmaß der entsprechenden Neigung aber auffallend geringer.

In China beispielsweise billigen nur 58 Prozent der Teilnehmer den Schritt, die Weiche im ersten Szenario umzustellen. Im dritten Szenario weichen die Antworten zudem zwischen den Staaten noch stärker voneinander ab. So stimmen 49 Prozent der Teilnehmer in Deutschland zu, den großen Mann von der Brücke zu stoßen. In Vietnam sind es 66 Prozent, in China nur 32 Prozent.

Das Team glaubt hier, einen auffälligen Zusammenhang ausgemacht zu haben. In Ländern, in denen es schwierig ist, außerhalb traditioneller sozialer Gebilde wie Familie oder Beruf neue Beziehungen zu knüpfen, ist ihm zufolge auch die Bereitschaft einen Menschen zu opfern geringer. Die Wissenschaftler vermuten, dass Leute davor zurückschrecken, kontroverse und unpopuläre Entscheidungen zu treffen, wenn sie Angst haben, ihre aktuellen sozialen Bezüge zu verlieren.

Viele befürchteten möglicherweise, in so einem Fall als "Monster" wahrgenommen zu werden, erläutert Rahwan. Es sei zwar noch zu früh, "um einen klaren kausalen Zusammenhang zwischen den kulturspezifischen, moralischen Entscheidungen der Menschen und der Leichtigkeit, mit der sie neue Beziehungen eingehen können, herzustellen". Es gebe aber vermehrt Anzeichen dafür, "dass die Art und Weise, wie das persönliche Ansehen in einer bestimmten Kultur gepflegt wird", die moralischen Intuitionen der darin lebenden Menschen beeinflussen könne. Geht es nach der hiesigen Ethikkommission für automatisiertes Fahren, sind schwere moralische Dilemmata wie der Weichenstellerfall "nicht ethisch zweifelsfrei programmierbar" und so maschinell auch nicht zu lösen.

Siehe dazu auch:

(nb)