zurück zum Artikel

Recht, Maschinen und die Idee des Posthumanen

Von den mechanischen Maschinen bis zum Allnet, zur Maschinisierung des Menschen und moralischen Maschinen

Recht hat die Aufgabe, menschliches Verhalten zu regulieren und den Menschen vor ungerechtfertigten Verletzungen durch andere Menschen zu schützen. Dabei spielt es keine Rolle, ob die Verletzung eigenhändig zugefügt wird oder ob sich der Täter eines technischen Instruments bedient. Recht wird von Menschen gemacht, um menschliche Interessen zu schützen; es kann deshalb von Menschen auch wieder geändert werden. In einer humanen, auf universale menschliche Bedürfnisse hin ausgerichteten Rechtsordnung muss auch die Technik dem Menschen dienen.

Die Verwendung der ersten Werkzeuge reicht wohl bis in die Zeit der Menschwerdung, möglicherweise sogar noch darüber hinaus, zurück. Dagegen tauchen die ersten Maschinen erst weitaus später auf. Maschinen unterscheiden sich von einfachem Werkzeug durch das Vorkommen beweglicher Teile und den nicht-menschlichen Antrieb (z.B. mittels Wasserkraft).1 [1] Maschinen dieser Art dürften schon im zweiten und dritten Jahrtausend vor Beginn unserer Zeitrechnung zum Einsatz gekommen sein, etwa zur Bewässerung oder im Krieg.

Doch erst seit der Industriellen Revolution des 18. Jahrhunderts haben Maschinen unsere Welt wesentlich verändert - man denke nur an die Dampfmaschine, die Lokomotive, das Automobil und das Flugzeug. Der Arbeitsalltag eines Großteils der Bevölkerung in Europa wurde durch den Einsatz von Maschinen bei der Produktion von Gütern revolutioniert. Mit zeitlicher Verzögerung, aber mit umso tiefer greifenden Folgen, eroberte die Maschine auch die Privathaushalte; zu nennen sind etwa Bügeleisen, Küchenmaschinen und Telefon. Die jüngste Erscheinungsform der Maschinisierung unserer Welt ist die Verbreitung des Computers seit Mitte der 60er Jahre des 20. Jahrhunderts.

Das Recht hat den Siegeszug der Maschinen von Anfang an begleitet und mitgestaltet.2 [2] Um die von Maschinen ausgehenden Gefahren einzudämmen, wurden Sorgfaltsregeln entwickelt, die die Hersteller und Nutzer von Maschinen einzuhalten haben, häufig bei Androhung von Strafe im Falle des Zuwiderhandelns.

Frühe Regelungen für den Einsatz von Maschinen finden sich im mittelalterlichen Bergbaurecht, dann vor allem im Mühlenrecht des 17. und 18. Jahrhunderts. Im Zuge der Industriellen Revolution spielt ab den 30er Jahren des 19. Jahrhunderts die Dampfkesselgesetzgebung eine besondere Rolle. Kurz darauf entsteht das Eisenbahnrecht, in welchem wesentliche Elemente des heutigen Haftungsrechts erstmals ausgebildet werden. Mittlerweile bildet die Haftung für gefährliche Maschinen ein wesentliches Element der zivil- und strafrechtlichen Produkthaftung.3 [3]

Abdeckung der Umgebung durch Abstandssensoren in dem autonomen Fahrzeug "MadeInGermany" (FU Berlin). Die Reichweite ist 70m für den Kreis und mehr als 100m für Radar und LIDAR. Die Abdeckung ist redundant, da es sich um ein Forschungsprototyp handelt (Autopie: Autonome Fahrzeuge für Car-Sharing [4]). Bild: Raúl Rojas

Die neuen Maschinen: Roboter und teilautonome Systeme

In der Gegenwart tritt eine neue Art von Maschinen auf den Plan: autonome bzw. teilautonome Systeme, die in der Lage sind, ohne menschlichen Input sachgerecht und zielführend auf neue Umweltbedingungen zu reagieren. Eine Frühform sind die schon seit den 50er Jahren im Einsatz befindlichen Industrieroboter. Heute erobern sich teilautonome Systeme neue Anwendungsgebiete in Bereichen wie Medizin, Mobilität, Pflege, Service und Spiel. Besonders problematisch ist der rasche Fortschritt in der Militärrobotik. Der Einsatz von Drohnen, d.h. unbemannten flugfähigen Maschinen, die zu Beobachtungs- und Kampfzwecken verwendet werden können, ist in vielen Krisengebieten schon Alltag. Aber auch im zivilen Bereich scheint der flächendeckende Einsatz von Drohnen zu Transportzwecken unmittelbar bevorzustehen, wenn man den Ankündigungen von Firmen wie Telekom und Google Glauben schenken darf.

Praktisch besonders wichtig ist die zunehmende Verbreitung teilautonomer Systeme im Straßenverkehr. Bereits heute gehören Airbags zur Standardausstattung von Pkws; in Kürze wird dies auch für teilautonome Einparkhilfen und Spurhalteautomaten der Fall sein. Im Bahn- und noch mehr im Flugzeugverkehr haben teilautonome Maschinen schon vor einiger Zeit Einzug gehalten. In nicht allzu ferner Zukunft werden sie auch den Straßenverkehr beherrschen; jedenfalls in großen Städten wird das "Roboterauto" zur Selbstverständlichkeit werden. Gut 90% der Unfälle im Straßenverkehr gehen auf menschliches Versagen zurück; es wird erwartet, dass mit dem Einsatz der neuen technischen Systeme in PKW die Zahl derer, die im Verkehr getötet oder verletzt werden, wesentlich zurückgehen wird.

Eine andere praktisch bedeutsame Entwicklung ist die Konvergenz der teilautonomen Systeme mit dem Internet. Die Maschinen arbeiten in zunehmendem Maße nicht mehr isoliert, sondern kommunizieren über das Netz, und zwar sowohl mit Menschen und Computern als auch untereinander. Unter dem Leitbegriff "Industrie 4.0" [5] erregt derzeit die Vorstellung einer vollautomatisierten und über das Internet vernetzten Fabrik Aufsehen. Wohin diese Entwicklung führen wird, ist noch unklar. Offensichtlich ist aber, dass die Konvergenz modernster Maschinen mit der Internettechnologie eine neue Entwicklungsstufe in der Maschinisierung unserer Welt herbeigeführt hat: das "Internet der Dinge" (und Maschinen) nimmt Gestalt an.

Einige Rechtsfragen teilautonomer Systeme

Haftung für entstandene Schäden

Welche Rechtsfragen wirft die Entwicklung teilautonomer Maschinen heute und in näherer Zukunft auf?4 [6] Der juristische Laie denkt zu allererst an Haftungsfragen: Wer ist zum Schadensersatz verpflichtet, wenn eine teilautonome Maschine einen Schaden anrichtet? Der Hersteller der Maschine? Ihr Programmierer? Derjenige, der die Maschine eingesetzt hat? Oder kommt sogar eine Eigenhaftung der Maschine in Frage?

Grundsätzlich kann jeder in Haftung genommen werden, der vorsätzlich oder fahrlässig eine Ursache dafür gesetzt hat, dass der Schaden aufgetreten ist (§ 823 des Bürgerlichen Gesetzbuches, BGB). Hätte der Hersteller die Maschine nicht produziert und in den Handel gebracht, so wäre der Schaden beim Endverbraucher nicht eingetreten. Deshalb kann er in Haftung genommen werden, wenn er voraussehen konnte oder sogar billigend in Kauf genommen hat, dass der Einsatz der Maschine Sach- oder gar Körperschäden bewirken würde. Dasselbe gilt grundsätzlich für den Programmierer. Sogar der Verkäufer der Maschine kann im Verhältnis zum Endverbraucher haften. Bei ihm kommt zusätzlich eine Haftung aus dem Vertragsverhältnis mit dem Endkunden in Betracht, wenn er sich, wie es dem Normalfall entsprechen dürfte, zur Lieferung einer sicheren Maschine verpflichtet hat.

Problematisch wird die Haftung für von Maschinen hervorgerufene Schäden dann, wenn die Maschine "eigentlich" ordnungsgemäß funktioniert hat und nur durch eine unglückliche Verkettung von außergewöhnlichen Umständen ein Schaden auftritt. Angenommen, ein Industrieroboter, der Waren unterschiedlicher Form und unterschiedlichen Gewichts von einem Band auf ein anderes hebt, funktioniert jahrelang ohne jedes Problem, bis eines Tages ein Kind während einer Fabrikführung eigenmächtig die Besuchsgruppe verlässt, sich der Maschine nähert und dabei von einem Roboterarm erfasst und verletzt wird.

Mit derartigen Fällen konnte unter normalen Umständen weder der Hersteller der Maschine noch derjenige, der sie in der Fabrik einsetzt, rechnen. Man kann ihnen also keine Fahrlässigkeit vorwerfen. Deshalb scheiden sie als Haftungssubjekte aus. Haften könnte aber die für die Besucherführung zuständige Person, wenn sie sich sorgfaltswidrig verhalten hat.

Die Maschine selbst kann dagegen nach bisheriger Rechtslage nicht in Anspruch genommen werden, da ihr eine wesentliche Haftungsvoraussetzung, nämlich die Qualität als Person, fehlt.

Strafrecht

Von der zivilrechtlichen Haftung auf Ersatz des entstandenen Schadens zu unterscheiden ist die strafrechtliche Verantwortung für durch Maschinen bewirkte Vermögens-, Sach- oder Körperschäden. Ihre Struktur ähnelt der der zivilrechtlichen Haftung auf Ersatz des entstandenen Schadens nach § 823 BGB. So setzt eine Strafbarkeit wegen Körperverletzung nach § 223 des Strafgesetzbuches (StGB) voraus, dass eine Person vorsätzlich durch ihr Tun oder Unterlassen einen Körperschaden bei einer anderen Person verursacht hat.

Im obigen Fall, in dem ein Kind von einem Roboterarm erfasst und verletzt wird, haben zwar sowohl der Hersteller als auch derjenige, der die Maschine einsetzt, eine Ursache dafür gesetzt, dass das Kind verletzt wurde. Beiden fehlt jedoch der Vorsatz. Nicht einmal eine fahrlässige Körperverletzung kommt für sie in Frage, wenn man davon ausgeht, dass sie nicht damit rechnen mussten, dass sich Kinder dem teilautonomen System nähern würden. Anders sieht es beim Führer der Besuchergruppe aus. Sollte man ihm eine Verletzung seiner Aufsichtspflicht vorwerfen können, so hat er fahrlässig gehandelt und kommt als Täter einer fahrlässigen Körperverletzung (§ 229 StGB) in Betracht.

In einigen Teilbereichen der Robotik stellt sich die Frage, ob die vorhandenen Normen ausreichen, um uns gegen durch teilautonome Maschinen bewirkte Schäden zu schützen. Ein Beispiel hierfür sind Verletzungen der Persönlichkeitsrechte durch Drohnen, die zum Ausspähen anderer Personen eingesetzt werden. Das geltende Strafrecht erfasst wichtige Verletzungsszenarien nicht, etwa wenn eine Drohne die Terrasse eines fremden Wohngebäudes überwacht und die dort vielleicht sonnenbadenden Menschen filmt. Der Gesetzgeber sollte diese Strafbarkeitslücke bald füllen.

Haftung der Provider

Eine große, bislang aber noch kaum diskutierte Herausforderung liegt in der Tatsache, dass die autonomen Systeme der Zukunft häufig miteinander und mit dem Internet vernetzt sein werden, um Informationen auszutauschen und aktuelle Daten aus dem Netz zu beziehen. Wichtige Beispiele sind die vernetzte Fabrik ("Industrie 4.0") und vor allem das (teil-) autonome Fahrzeug, welches Informationen über das Wetter, Staus, Unfälle und viele andere Daten aus dem Internet erhält, nicht zu vergessen die zur Unterhaltung dienenden Audio- und Videodateien, die Fahrer und Mitfahrer unterwegs online anfordern. So wie heute Steine von der Autobahnbrücke geworfen werden, wird es in Zukunft möglich sein, Schadsoftware auf fahrende Pkw aufzuspielen - z.B. um den Wagen wahlweise umzulenken, zum Halten zu zwingen oder um einen Unfall zu verursachen.

Nicht immer wird es gelingen, den Urheber solcher Angriffe auszumachen. Umso wichtiger wird es, die Provider, ohne die der Datenverkehr gar nicht möglich wäre, rechtlich in die Pflicht zu nehmen. Die Haftung der Provider ist in Deutschland im Telemediengesetz (TMG) geregelt, welches wiederum auf eine europäische Richtlinie zurückzuführen ist.5 [7] Grundsätzlich ist derjenige, der als Provider Inhalte selbst herstellt (sog. Content-Provider) voll verantwortlich, derjenige, der Speicherplatz zur Verfügung stellt (Host-Provider) ist dann verantwortlich, wenn er die Rechtswidrigkeit der bei ihm abgespeicherten Dateien kennt. Der sog. Access-Provider, der lediglich den Zugang zum Internet vermittelt, ist für Schäden, die seine Kunden durch Dateien aus dem Internet erleiden, nicht verantwortlich, es sei denn, er arbeitet kollusiv mit dem Schädiger zusammen (z.B. im Rahmen einer kriminellen Bande).

Nach bestrittener, aber zutreffender Ansicht haftet der Access-Provider auch dann, wenn er von der kriminellen Tätigkeit eines seiner Kunden sichere Kenntnis erhält, jedoch nichts unternimmt, um diesem Kunden den Zugang zum Netz zu versperren. Würde also der A regelmäßig Schadsoftware für Pkw in das Internet hochladen und dabei die von Provider B zur Verfügung gestellte Infrastruktur benutzen, so würde B als Gehilfe oder vielleicht sogar als Mittäter haften, wenn er trotz eindeutiger Warnhinweise dem A nicht den Internetzugang sperrt. Es steht zu erwarten, dass mit zunehmender Verbreitung des "Internets der Dinge" (und Maschinen) die Haftung der Provider, und insbesondere die der Access-Provider, verschärft werden wird, insbesondere für solche Fälle, in denen (z.B. im Straßenverkehr) Personenschäden aufgetreten sind bzw. aufzutreten drohen.

Recht des Datenschutzes

Von noch größerer Bedeutung als die Haftungsfragen sind derzeit Probleme des Datenschutzes. Um Schäden gar nicht erst entstehen zu lassen, werden teilautonome Systeme (insbesondere solche, die für den mobilen Einsatz bestimmt sind) mit zahlreichen Sensoren ausgestattet, die Umgebungsdaten aufnehmen, verarbeiten und speichern. Darunter können auch personenbezogene Daten sein, z.B. Informationen über das Arbeitsverhalten von Mitarbeitern, ihre Pausenzeiten und ihre Bewegungsmuster. Damit werden Fragen des Arbeitnehmerdatenschutzes relevant, die noch nicht abschließend geklärt sind. Auch teilautonome Pkw können eine Unmenge an Informationen über ihre Insassen und über andere Personen (z.B. die Insassen anderer Fahrzeuge) aufnehmen und speichern.

Die Grundsätze des deutschen Datenschutzrechtes sehen vor, dass personenbezogene Daten nur dann aufgenommen, verarbeitet und gespeichert werden dürfen, wenn der Betroffene dem zustimmt oder ein Gesetz die Datenaufnahme, -speicherung oder -verarbeitung explizit erlaubt (§ 4 Bundesdatenschutzgesetz). Außerdem gelten die Prinzipien der Datensparsamkeit - es sollen nicht mehr Daten erhoben, verarbeitet und gespeichert werden, als unbedingt notwendig - und der Zweckbindung: Daten dürfen nur für diejenigen Zwecke eingesetzt werden, für die sie erhoben wurden.

Die Einhaltung der skizzierten Grundsätze wird insbesondere dann zum Problem, wenn die datenaufnehmenden teilautonomen Systeme über das Internet verknüpft sind. Aktuelle Entwicklungen, wie sie unter dem Stichwort "Big Data" diskutiert werden, lassen das überkommene Datenschutzrecht vollends obsolet erscheinen. "Big Data" liegt die Vorstellung zugrunde, aus Datenmengen, die so umfassend wie nur irgend möglich sein sollen, mittels zweckmäßiger Analysen Prognosen u.a. über das Verhalten von Personengruppen oder Einzelpersonen abzuleiten. Dies steht in direktem Widerspruch zu den oben skizzierten Prinzipien der Datensparsamkeit und der Zweckbindung. Sobald es möglich wird, aus großen Datenmengen auch nur einigermaßen tragfähige Prognosen über das Verhalten von Personen zu formulieren, wird sogar das Konzept der "personenbezogenen Daten" selbst fragwürdig - potentiell ist dann jedes Datum, jede computerlesbare und von Computern analysierbare Information, auf konkrete Personen beziehbar und damit "personenbezogen". Dies entzieht dem bisherigen Datenschutzrecht den Boden.

Recht der Pkw-Zulassung und des Pkw-Betriebs

Neben dem zivilrechtlichen Haftungsrecht, dem Strafrecht, dem Recht der Providerhaftung und dem Recht des Datenschutzes werden auch andere Bereiche der Rechtsordnung durch die Entwicklung teilautonomer Systeme vor neue Herausforderungen gestellt. Ein wirtschaftlich besonders drängendes Problem stellt sich derzeit im Bereich der Pkw-Zulassung bzw. dem Pkw-Betrieb, weil teilautonome Kraftfahrzeuge, die z.B. eigenständig einparken oder mit großer Sicherheit im Stau fahrerlos fahren können, von der Schöpfern des deutschen Automobilrechts nicht vorausgesehen wurden.

Das deutsche Straßenverkehrsrecht geht vom Leitbild eines menschengesteuerten Fahrzeugs aus. So regelt etwa § 3 der Straßenverkehrsordnung (StVO) nach der Vorgabe der Wiener Übereinkommens über den Straßenverkehr aus dem Jahr 1968, dass der Fahrzeugführer nur so schnell fahren darf, dass er sein Fahrzeug ständig beherrscht. Dahinter steht das Leitbild eines menschlichen Fahrers, der seinen Wagen permanent unter Kontrolle hat. Fahrerlose Fahrzeuge sind danach nicht zulässig, weder nach internationalem (Wiener Übereinkommen) noch nach nationalem Recht (StVO). Inwieweit Fahrzeuge, in denen der Fahrer die Kontrolle nur noch mittels (teilweise oder vollständig autonomer) technischer Systeme ausübt, mit diesen Vorgaben vereinbar ist, ist umstritten.

Lösungsansätze

Die durch die Entwicklung teilautonomer Maschinen aufgeworfenen Rechtsfragen können auf verschiedene Weise gelöst oder zumindest entschärft werden. Grundsätzlich lassen sich bei einem Konflikt zwischen Recht und Technik auf beiden Seiten Anpassungen durchführen: so kann sich das Recht der Technik anpassen, aber auch die Technik dem Recht. In der Rechtswirklichkeit werden beide Wege eingeschlagen.6 [8] Unter "Herstellung juristischer Compliance" versteht man den Versuch, technische Entwicklungen schon so frühzeitig rechtskonform zu gestalten, dass Konflikte gar nicht erst auftreten. Dies gilt auch und gerade bei der Produktion und Vermarktung neuer Maschinen, deren Entwicklungskosten oft in die Millionen gehen.

Umgekehrt kommt es aber auch zur Anpassung überkommenen Rechts an die neuen technischen Gegebenheiten. So wird bei der zivilrechtlichen Haftung das Konzept der Fahrlässigkeit im Hinblick auf die beim Umgang mit teilautonomen Maschinen erforderlichen Sorgfaltsanforderungen fortzuentwickeln sein. Für Fälle, in denen ein Mensch für durch teilautonome Systeme bewirkte Schäden nicht mehr zur Verantwortung gezogen werden kann, wird bereits über die Einführung einer Eigenhaftung von Maschinen nachgedacht: So wie das Konzept der "natürlichen" Person schon längst durch die Figur einer "juristischen Person" ergänzt wurde, wäre es möglich, noch einen Schritt weiterzugehen und eine "e-Person" zu kreieren, die als eigenständiges Haftungssubjekt anzusehen wäre. Bis es soweit ist, müssen noch allerdings noch viele juristische Fragen geklärt werden.

Weniger Zeit hat der Gesetzgeber bei der Reform des Straßenverkehrsrechts. Wenn nicht bereits die nächste Generation von Premiumfahrzeugen möglicherweise gegen das Straßenverkehrsgesetz bzw. die Straßenverkehrsordnung verstoßen soll, muss die Zulässigkeit von teilautonomen Systemen in Kraftfahrzeugen bald explizit festgeschrieben werden. Dies bedeutet nichts anderes, als dass sich der Gesetzgeber von dem Leitbild des zu jeder Zeit eigenhändig fahrergelenkten und fahrergesteuerten Fahrzeugs verabschieden muss. Dazu sind Änderungen in beiden genannten Gesetzen erforderlich, darüber hinaus aber auch eine Änderung des ihnen zugrunde liegenden Wiener Übereinkommens über den Straßenverkehr aus dem Jahr 1968. Auch wenn (was hier, entgegen der wohl herrschenden Meinung, vertreten wird), die autonomen technischen Systeme durch eine angemessene Auslegung der rechtlichen Vorgaben jedenfalls mit dem Wiener Übereinkommen in Einklang gebracht werden könnten, sollte auf jeden eine gesetzliche Klarstellung erfolgen.

Gesetzlicher Reformbedarf besteht schließlich auch im Bereich des Datenschutzes. Big Data und das bisherige Datenschutzrecht lassen sich nicht miteinander vereinbaren. Entweder müssen die neuen Techniken zur Datenanalyse unterbunden werden, oder das deutsche Datenschutzrecht ist fortzuentwickeln. Dazu existiert bereits eine Reihe von Vorschlägen. Am aussichtsreichsten dürfte sein, das bisher binäre Modell "personenbezogene vs. nicht personenbezogene Daten" durch ein nach Schutzklassen abgestuftes Modell zu ersetzen, welches auch den Umgang mit solchen Daten, deren Erhebung, Verarbeitung usw. bislang völlig frei ist, bestimmten Einschränkungen unterwirft. Ein derartiges Modell sollte einen flexibleren Umgang mit Daten als bisher erlauben, ohne aber den nötigen Schutz des Rechts auf informationelle Selbstbestimmung, wie es in der berühmten "Volkszählungsentscheidung" des Bundesverfassungsgerichts7 [9] festgeschrieben wurde, aufzugeben.

Datenschutz ist keine lästige Lappalie, sondern ein gerade im demokratischen Verfassungsstaat zentrales Grund- und Menschenrecht. Wer sich permanent beobachtet und kontrolliert fühlen muss, geht nicht bloß wesentlicher staatsbürgerlicher Freiheiten verlustig; er bzw. sie wird auch den individuellen Entfaltungsmöglichkeiten empfindlich gehemmt. Eine Totalkontrolle würde sogar gegen die Menschenwürde verstoßen. Die derzeit neu entstehenden Möglichkeiten einer totalen Überwachung durch Großunternehmen wie Google oder durch die NSA müssen deshalb außerordentlich ernst genommen werden.

Ein Blick in die Zukunft: Das Allnet und die Maschinisierung des Menschen

Bereits in naher Zukunft wird das "Internet der Dinge" das bisherige Internet ablösen. Schon heute sind es nicht mehr nur Desktop-Geräte, die miteinander über das Internet kommunizieren. Längst ist das Internet durch Notebooks, Tablets und Smartphones mobil geworden. Der nächste Schritt wird darin bestehen, dass mehr und mehr Alltagsgegenstände, z.B. Kleidungsstücke, mittels miniaturisierter Maschinen (z.B. RFID-Chips) Daten vorrätig halten, abliefern und austauschen. Teilautonome Pkw werden von ihnen benötigte Daten und Software in Echtzeit aus dem Internet beziehen, aber auch untereinander Daten austauschen. In der Fabrik der Zukunft arbeiten teilautonome Maschinen, die über das Internet miteinander verknüpft sind. Die vernetzten Maschinen werden sozusagen zu Augen, Ohren und Händen des Internet. Dieses neue, im Arbeitsleben wie im Alltag allgegenwärtige Internet ließe sich am treffendsten als "Allnet" bezeichnen.

Parallel zur Differenzierung in der Maschinenwelt schreitet die Maschinisierung des Menschen weiter voran. Schon heute ist der Einsatz komplexer Prothesen (dazu gehört etwa auch die neue Datenbrille von Google) und künstlicher Geräte im menschlichen Körper keine Seltenheit mehr, man denke nur an Insulinpumpen, Herzschrittmacher und maschinelle Neurostimulatoren ("Hirnschrittmacher"). Technisch ohne Weiteres zu realisieren ist auch schon der "Einbau" von Mikroprozessoren in den Unterarm und den Unterschenkel, die es ermöglichen, ihre Träger auch aus großer Distanz zu identifizieren oder zur Abwicklung von Bezahlvorgängen dienen können. Zu nennen sind ferner Bein- oder Armprothesen, die heute ihren Trägern weit mehr Kraft, Schnelligkeit und Ausdauer verleihen können als Menschen ohne derartige Prothesen besitzen. Die Möglichkeiten einer "Cyborgisierung des Menschen", also der Verschmelzung von Menschen mit Maschinen, nehmen zu.

Damit stellt sich eine ganze Reihe interessanter Rechtsfragen: Sind Prothesen Körperteile oder Sachen? Gibt es einen Anspruch auf die bestmöglichen Ersatzteile? Müssen dafür die Krankenversicherungen aufkommen? Darf man sich gesunde Körperglieder, z.B. Arme oder Beine, entfernen lassen, um die amputierten Glieder durch leistungsfähigere künstliche Gliedmaßen zu ersetzen? Wie weit darf die "Cyborgisierung" eines Menschen, also der Einbau künstlicher Körperteile, gehen? Ab welchem Anteil von "künstlichen Teilen" hört ein Mensch auf, Mensch zu sein, und wird zur Maschine? Gibt es in solchen Fällen auch einen Wechsel im Rechtsstatus - vom Menschen zur bloßen Sache?

Moralische Maschinen als neue Spezies?

Ein Zukunftsproblem, das aber schon heute interessante Fragen aufwirft, ist die Entwicklung autonomer Roboter, die es an Intelligenz und Umsicht mit Menschen aufnehmen können oder sie darin, bei hinreichendem Fortschritt der Technik, sogar weit übertreffen. Welchen moralischen und rechtlichen Status werden derartige Maschinen haben? Können sie Pflichten und Rechte besitzen? Und lassen sich Konzepte wie "Grundrechte" oder gar "Würde" auf Maschinen übertragen?

Derartige Fragen werden nicht bloß in der Science-Fiction-Literatur, sondern auch in der Ethik und der Rechtwissenschaft diskutiert. Bereits vor über 70 Jahren formulierte der US-amerikanische Science-Fiction-Autor Isaac Asimov seine drei "Robotergesetze"8 [10], die das Miteinander von Menschen und autonomen Maschinen ermöglichen sollten:

  1. Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen Schaden zugefügt wird.
  2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen - es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
  3. Ein Roboter muss seine Existenz beschützen, so lange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Aus juristischer Sicht sind diese Regeln naiv. Sie versagen bereits bei einfachen Notstandsfällen, in denen sich gleichwertige Güter gegenüberstehen. Ein Beispiel ist folgender Fall: Roboter R kehrt in die Raumstation zurück und findet dort seine menschlichen Kollegen A und B in akuter Lebensgefahr vor. Doch nur einen von beiden kann er retten. Ein Roboter, der den Asimov‘schen Regeln folgen würde, würde hier wohl zwei gleich starken rechtlichen Handlungsimperativen unterliegen: "Rette A!" und "Rette B!". Doch da nicht beide Rechtsgebote erfüllt werden können, befindet sich der Roboter in einer dilemmatischen Situation, für welche die Asimov'schen Regeln keine Lösung bereithalten (nach deutschem Recht wäre ein menschlicher Akteur nach den Grundsätzen der sog. "rechtfertigenden Pflichtenkollision gerechtfertigt, wenn er nur eine von zwei gleichstarken, aber nicht gemeinsam erfüllbaren Pflichten befolgt).

Es ist bemerkenswert, dass die Asimov'schen Regeln bei der Entwicklung moderner Roboter offenbar keine Rolle spielen. Das gilt nicht bloß für vergleichsweise simple Industrie- oder Haushaltsroboter, die noch gar nicht über genug Autonomie verfügen, um diese Regeln sinnvoll anwenden zu können. Gerade im technisch wohl am weitesten vorangeschrittenen Bereich, der Kriegsrobotik, werden die Asimov'schen Regeln nicht implementiert. Nicht zuletzt deshalb ist der Einsatz von Drohnen zu militärischen Zwecken so umstritten.

Technikphilosophen aus dem Umkreis des "Post-" oder "Transhumanismus"9 [11] haben eine Zukunft skizziert, in denen die Roboter beginnen, den Menschen in allen relevanten Hinsichten zu übertreffen. Eine neue, uns überlegene Spezies sei im Entstehen. Der kalifornische Robotiker und Zukunftsforscher Hans Moravec sprach schon vor über 20 Jahren von den "Kindern unseres Geistes", die uns schon bald unendlich überlegen sein würden:

Heute sind unsere Maschinen noch einfache Geschöpfe, die wie alle Neugeborenen der elterlichen Pflege und Fürsorge bedürfen und kaum als ‚intelligent’ zu bezeichnen sind. Doch im Laufe des nächsten Jahrhunderts werden sie zu Gebilden heranreifen, die ebenso komplex sind wie wir selbst, um schließlich über uns und alles, was wir kennen, hinauszuwachsen, so dass wir eines Tages stolz sein dürfen, wenn sie sich als unsere Nachkommen bezeichnen. Da diese Kinder unseres Geistes nicht auf den stockenden Gang der biologischen Evolution angewiesen sind, werden sie sich ungehemmt entfalten und sich gewaltigen Aufgaben von grundsätzlicher Bedeutung im größeren Universum zuwenden. Wir Menschen werden eine Zeitlang von ihrer Arbeit profitieren. Doch über kurz oder lang werden sie, wie biologische Kinder, ihre eigenen Wege gehen, während wir, die Eltern, alt werden und abtreten.

Hans Moravec

Vom Nutzen von Zukunftsvisionen

In vielen Intellektuellenkreisen gehört es zum guten Ton, Technikvisionen wie diese abschätzig zu behandeln. Techniker werden nicht wirklich ernst genommen, vor allem dann nicht, wenn sie sich über die Zukunft äußern. Gleichzeitig werden freilich die zahllosen Verbesserungen unserer Lebensbedingungen, die wir Technikern und Ingenieuren verdanken, bereitwillig, aber unreflektiert in Anspruch genommen. Bemerkenswerterweise verbindet sich die Arroganz der sog. "Geisteswissenschaftler" häufig mit großer Unwissenheit über die Geschichte, die Methodologie und die Leistungsfähigkeit technologischer Forschung.

Es gibt mindestens drei Gründe, sich auch als Rechtsphilosoph und an Grundlagen und politischen Fragen interessierter Jurist mit technischen Visionen auseinanderzusetzen:

  1. Zum einen enthalten technische Visionen nicht selten Prognosen über unsere Zukunft, die in wenigen Jahren eintreffen. Soll uns der technische Fortschritt nicht vollkommen überraschen, so tun wir gut daran, uns heute schon mit den ethischen und rechtlichen Herausforderungen von morgen zu beschäftigen.
  2. Doch auch wenn die Prognosen der Techniker nicht eintreten, kann die Auseinandersetzung mit den von ihnen entworfenen Visionen sinnvoll sein. Zukunftsbilder, auch solche, die mit an Sicherheit grenzender Wahrscheinlichkeit niemals Realität werden, spielen in den gesellschaftlichen Debatten um neue technische Möglichkeiten eine große Rolle. So hat etwa die Figur des "Terminator" aus dem gleichnamigen Hollywood-Film die Vorstellungen von humanoiden Robotern wesentlich beeinflusst. Filme wie "HER" oder "Transcendence" (beide 2014) prägen unser Bild von maschineller Intelligenz und den von ihr ausgehenden Gefahren. Der Einfluss derartiger Filme auf die Entstehung von Gefährdungsgefühlen und damit einher gehenden Regelungsbedürfnissen ist höchstwahrscheinlich größer als der Einfluss sozialwissenschaftlicher oder juristischer Erörterungen.
  3. Ein dritter Grund, sich aus rechtsphilosophischer Perspektive mit Technikvisionen zu beschäftigen, liegt darin, dass es auf diese Weise möglich wird, überkommene rechts- und sozialphilosophische Konzepte in einem neuen Licht zu sehen und zu überprüfen. Verfremdende Szenarien erleichtern es bisweilen enorm, Grundkonzepte unser Politik und Ethik neu zu durchdenken.

Humanismus und Menschenwürde

Ein Grundkonzept unserer Rechtsordnung ist der Humanismus. Das Wort besitzt eine Vielzahl von Bedeutungen und bezieht sich u.a. eine bestimmte philosophische und politische Bewegung, eine Epoche, eine Tradition, ein Bildungsprogramm, eine Weltanschauung, oder auch nur eine moralische Einstellung. Zentral für den politischen (oder juristischen) Humanismus ist die Forderung, der Staat müsse sich an den Menschenrechten und vor allem der Menschenwürde des einzelnen Menschen orientieren.10 [12]

"Menschenwürde" kann in diesem Zusammenhang als ein Ensemble von verschiedenen menschlichen Basisrechten gedeutet werden. Dazu gehören etwa das Recht auf ein materielles Existenzminimum, auf minimale Entfaltungsfreiheit, auf Freiheit von extremen Schmerzen, das Recht auf grundsätzliche Rechtsgleichheit, auf Kontrolle intimster Informationen, Schutz vor Gehirnwäsche und anderen irreparablen Eingriffen in die Psyche und vor ähnlich tiefgreifenden Verletzungen. Von Menschenrechten im üblichen Sinn unterscheiden sich die die Menschenwürde konstituierenden Teilrechte dadurch, dass sie niemals und unter keinen Umständen rechtlich wirksam eingeschränkt werden können. Einschränkungen der Menschenwürde sind damit immer rechtswidrig. Der Staat ist verpflichtet, die Menschenwürde seiner Bürgerinnen und Bürger zu wahren und aktiv zu schützen (vgl. Art. 1 GG), also Zustände, die der Menschenwürde zuwiderlaufen, zu beseitigen.

Die vor allem seit der Aufklärung im 18. Jahrhundert im Westen prominent vertretene und teilweise auch umgesetzte Konzeption von Menschenwürde und Menschenrechten wurde immer wieder kritisiert und angegriffen, nicht bloß durch theokratische, totalitäre und autoritäre Gegenmodelle, die sich auf durch Gottheiten geoffenbarte "ewige Wahrheiten" oder den Willen eines irgendwie "begnadeten" Führers berufen, sondern auch durch den technischen Fortschritt. Gerade im Kontext der Fortentwicklung von autonomen Systemen und Robotern wird oft die Abkehr von angeblich "veralteten" humanistischen Vorstellungen beschworen und ein neues, "post-" oder "transhumanistisches" Denken eingefordert, allerdings zu Unrecht, wie im folgenden abschließenden Abschnitt zu zeigen sein wird.

Moralische Maschinen im Transhumanismus: die "Culture"-Romane von Ian M. Banks

Unter "Transhumanismus" versteht man eine vor allem in den USA hervorgetretene philosophische Strömung, die den technischen Fortschritt nicht bloß in der Robotik, sondern auf allen Feldern unter Einschluss der Humanbiotechnologie, der Gentechnologie und der Nano-Technologie im Grundsatz begrüßt und fordert, der Mensch solle sich mit Hilfe der neuen Techniken "über sich hinaus" weiterentwickeln. Zu den geistigen Vätern dieser Bewegung gehören so unterschiedliche Denker wie Pico della Mirandola und Friedrich Nietzsche, aber auch Julien Huxley und Nick Bostrom.

In der Science-Fiction-Literatur sind die transhumanistischen Visionen aufgegriffen und verarbeitet worden, so etwa in den "Culture"-Romanen des kürzlich verstorbenen britischen Autors Ian M. Banks.11 [13] Die "Culture", zu deutsch "Kultur", ist ein sich über die gesamte Galaxis erstreckendes Reich, das von maschinellen Geistwesen, den "minds", kontrolliert und in gewisser, noch näher zu präzisierender Weise beherrscht wird. Die Geistwesen sind das Ergebnis einer jahrtausendelangen Evolution künstlicher Intelligenz, die von menschlichen Artefakten - Computern - ihren Ausgang genommen hat, inzwischen aber unermesslich weit über das menschliche Fassungsvermögen hinausreicht.

Ihnen steht eine technikgestützte Machtfülle zur Verfügung, die sie den Menschen, ihren Schöpfern, so überlegen macht wie die Götter der antiken Mythologie den Griechen zur Zeit Homers. Dennoch sind sie nicht allmächtig: es existieren andere, fast ebenso mächtige Zivilisationen, und der Herrschaftsbereich der "Kultur" bleibt auf unsere Galaxis beschränkt, während das Universum von Banks als unendlich und selbst für die leistungsfähigste Intelligenz in seiner Ganzheit nicht fassbar dargestellt wird. Dahinter steht - möglicherweise - ein pantheistisches Verständnis der Welt.

In unserem Zusammenhang bemerkenswert ist, dass die von Menschen geschaffenen maschinellen Geistwesen ihre Schöpfer nicht unterdrücken, sondern respektieren und ein postmaterielles Gemeinwesen geschaffen haben, in welchem dank einer ungeheuer weit fortgeschrittenen Technik die Bedürfnisse aller Menschen, die sich der "Kultur" anschließen, fast vollständig befriedigt werden können. Es gibt kein Geld mehr, und auch das Recht, verstanden als sanktionsbewehrte Zwangsordnung, spielt in Banks Zukunftsgesellschaft keine große Rolle. Krankheiten und auch der Tod sind besiegt, Arbeit und Spiel gehen ineinander über. Es ist eine Welt nahezu vollständiger Selbstbestimmungs- und Selbstentfaltungsmöglichkeiten; den Menschen stehen fast beliebige Angebote der körperlichen oder geistigen Verbesserung ("Enhancement") zur Verfügung. Sie können ihr Leben und ihre Tätigkeiten frei wählen.

Die "Kultur" wird von moralischen Prinzipien beherrscht, die sich mit Stichworten wie "gegenseitiger Respekt", "Autonomie im Denken und Handeln" und "Verbot der Zufügung vermeidbaren Leids" umschreiben lassen. Hüter dieser Prinzipien und Werte ist aber nicht mehr der Mensch, es sind vielmehr die Maschinen. Banks vertritt die These, dass ihre intellektuelle Überlegenheit auch moralische Überlegenheit zur Folge hat. Der Mensch ist nicht mehr der Mittelpunkt der Welt (er war es nie, glaubte es aber lange zu sein), er steht aber im Mittelpunkt seiner Welt, die die moralischen Maschinen hüten und bewahren. Die humanistischen Hauptforderungen an eine humane Gesellschaftsordnung, insbesondere die Orientierung an der Menschenwürde und den Menschenrechten, werden sämtlich erfüllt, ja sogar übertroffen. Humanismus und Transhumanismus stehen bei Banks nicht im Gegensatz zueinander. Es ist vielmehr gerade der technische Fortschritt, der der Verwirklichung der humanistischen Ideale dient.

Es ist hier nicht möglich, das von Ian Banks entworfene außerordentlich facetten- und gedankenreiche Zukunftsszenario näher zu behandeln, obwohl er viele Themen anspricht, die gerade aus ethischer und rechtsphilosophischer Sicht von großem Interesse sind. Hier sind einige davon: Wie lässt sich die conditio humana in einer von allen materiellen Schranken befreiten Zivilisation beschreiben? Wo liegen die Grenzen individueller Handlungsfreiheit der Menschen innerhalb der "Kultur"? Was ist das politische System der "Kultur" - eine Demokratie? Eine Herrschaft der Maschinen? Oder eine Anarchie? Ist eine Kultur, die ganz auf Leidvermeidung und Glücksmehrung ausgerichtet ist, mit traditionellen religiösen Werten vereinbar? Was bedeutet "interkulturelle Kompetenz" in einer von unzähligen, sich sowohl in ihren Werten wie in ihren technischen Fähigkeiten teilweise radikal unterscheidenden Rassen und Zivilisationen bevölkerten Galaxis? Gibt es ein Recht oder gar eine Pflicht "humanitärer Intervention", wenn in fremden Kulturen leidensfähige Wesen unterdrückt oder sogar zielgerichtet gequält werden? Und unterliegen "Geistwesen", wie sie von Ian Banks imaginiert wurden, moralischen oder gar rechtlichen Bindungen jenseits derer, die sie sich selbst gegeben haben?

Schluss

Das Thema "Recht und Maschinen" hat sich als sehr viel weiter und facettenreicher herausgestellt, als dies viele vielleicht zunächst erwartet haben. Der Siegeszug der Maschinen stellt das Recht vor große Herausforderungen. Die Auseinandersetzung mit den Maschinenvisionen des Transhumanismus kann den Weg zu ethischen und rechtsphilosophischen Grundlagenfragen eröffnen, die sich heute schon stellen oder sich doch in näherer Zukunft stellen werden. Insofern bleibt zu wünschen, dass Ethiker, Rechts- und Sozialphilosophen lernen, mit den Problemstellungen, Ideen und Visionen der Techniker etwas offener und kreativer umzugehen, als dies bislang, jedenfalls im deutschen Sprachraum, geschehen ist.

Prof. Dr. Dr. Eric Hilgendorf ist Leiter der Forschungsstelle RobotRecht [14] an der Universität Würzburg.

Der hier veröffentlichte Text basiert auf einem Vortrag, den der Verfasser am 19.1.2014 auf Einladung von Prof. Dr. Klaus Mainzer an der TU München gehalten hat. Eine ausführlichere Fassung wird abgedruckt in: E. Hilgendorf/S. Hoetitzsch (Hrsg.), Technik und Recht. Beiträge der ersten Würzburger Tagung zum Technikrecht (erscheint voraussichtlich Anfang 2015).


URL dieses Artikels:
http://www.heise.de/-3365376

Links in diesem Artikel:
[1] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_1
[2] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_2
[3] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_3
[4] https://www.heise.de/tp/features/Autopie-Autonome-Fahrzeuge-fuer-Car-Sharing-3394013.html
[5] http://www.autonomik40.de.
[6] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_4
[7] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_5
[8] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_6
[9] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_7
[10] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_8
[11] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_9
[12] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_10
[13] https://www.heise.de/tp/features/Recht-Maschinen-und-die-Idee-des-Posthumanen-3365376.html?view=fussnoten#f_11
[14] http://www.rechtstheorie.de