Menü

EU-Parlamentarier fordern "Kill-Schalter" für Roboter

Der Rechtsausschuss des EU-Parlaments will, dass "intelligente Maschinen" strenger reguliert werden. Es geht um ethische Standards und Haftung bei autonomen Autos genauso wie ums bedingungslose Grundeinkommen.

von
vorlesen Drucken Kommentare lesen 89 Beiträge
EU-Parlamentarier fordern "Kill-Schalter" für Roboter

Die Menschheit stehe an der Schwelle einer Ära, "in der immer ausgeklügeltere Roboter, Bots, Androiden und sonstige Manifestationen Künstlicher Intelligenz anscheinend nur darauf warten, eine neue industrielle Revolution zu entfesseln", meint der Rechtsausschuss des EU-Parlaments.

(Bild: heise online)

Die EU-Kommission soll ethische Grundprinzipien festlegen, "die bei der Entwicklung, Programmierung und Nutzung" von Robotern und Künstlicher Intelligenz (KI) eingehalten werden müssen. Dafür macht sich der Rechtsausschuss des EU-Parlaments in einem am Donnerstag angenommenen Bericht der luxemburgischen Sozialdemokratin Mady Delvaux stark. Für die Resolution stimmten 17 Volksvertreter, zwei dagegen, zwei enthielten sich. Die Entschließung muss im Februar noch vom Plenum EU-Parlaments in Straßburg bestätigt werden.

Der Rechtsausschuss plädiert dafür, die technische Revolution rund um "intelligente Maschinen" so zu gestalten, dass sie in den Dienst der Menschheit gestellt wird. Er skizziert in dem noch überarbeiteten Resolutionsentwurfs der Berichterstatterin eine eigene Charta, die aus einem Verhaltenskodex für Ingenieure und Forscher sowie Musterlizenzen für Konstrukteure und Nutzer besteht. Entwickler sollen demnach in das Maschinendesign unter anderem "offensichtliche Ausklinkmechanismen" in Form eines "Kill-Schalters" integrieren.

Das Entfaltungspotenzial der Robotik sehen die Rechtspolitiker durch einige Spannungen oder Risiken im Zusammenhang mit Sicherheit, Privatsphäre, Unversehrtheit, Würde, Autonomie und des Dateneigentums des Menschen berührt. Die geforderten Grundprinzipien müssten auf diesen Werten beruhen.

Allgemein spannt der Bericht einen weiten historischen Bogen vom klassischen Pygmalion-Mythos der Antike über Frankensteins Monster von Mary Shelley und der Prager Golem-Legende und Karel Capek, der den Begriff Roboter prägte, bis zu den Robotergesetzen des Science-Fiction-Autors Isaac Asimov. Mittlerweile stehe die Menschheit an der Schwelle einer Ära, "in der immer ausgeklügeltere Roboter, Bots, Androiden und sonstige Manifestationen Künstlicher Intelligenz anscheinend nur darauf warten, eine neue industrielle Revolution zu entfesseln".

Diese Entwicklung lasse vermutlich keine Gesellschaftsschicht unberührt, sodass der Gesetzgeber dringend gefragt sei. Letztlich bestehe die Möglichkeit, dass die KI die intellektuellen Fähigkeiten des Menschen innerhalb nur weniger Jahrzehnte in einer Weise überflügeln könnte und es damit schwer wäre, die "eigene Schöpfung zu kontrollieren", Herr über das eigene Schicksal zu bleiben und für das Überleben der Spezies Mensch Sorge zu tragen.

Auch die körperliche Unversehrtheit sorgt die Parlamentarier. So könnte sich etwa ein Robotercode als fehlbar erweisen. Zu erwägen seien zudem die potenziellen Folgen von Systemausfällen oder Hackerangriffen auf verbundene Systeme zu einer Zeit, in der immer mehr autonome Anwendungen eingesetzt werden oder bevorstehen. Die Abgeordneten blicken hier vor allem auf Kraftfahrzeuge und Drohnen, auf Pflegeroboter oder gar maschinelle Ordnungshüter (Robocops).

Die Abgeordneten wollen eine europäische Agentur für Robotik und KI einrichten. Diese solle sicherstellen, dass den relevanten Akteuren das nötige technische, ethische und regulatorische Fachwissen zur Verfügung steht. Dabei sollten auch externe Sachverständige hinzugezogen werden, die sich der sektor- und disziplinübergreifenden Überwachung robotikbasierter Anwendungen widmen.

Ein Großteil der Arbeiten, die heute von Menschen erledigt werden, könnten in Zukunft von Robotern übernommen werden. Die EU-Kommission soll daher genau überwachen, auf welchen Gebieten Jobs geschaffen oder zerstört werden. Angesichts der möglichen enormen Auswirkungen auf den Arbeitsmarkt müssten alle Mitgliedsstaaten dabei ein "allgemeines Grundeinkommen ernsthaft in Erwägung" ziehen und die Tragfähigkeit ihrer Sozialversicherungssysteme prüfen.

Gesetze rund um autonome Systeme sollen nach Meinung des Rechtsausschusses eine verschuldensunabhängige Haftung vorschreiben und so lediglich den Beweis verlangen, dass der Schaden eingetreten und auf einen Roboter zurückzuführen sei. Auch ein verpflichtendes Versicherungssystem für Hersteller oder Eigentümer sowie einen Entschädigungsfonds bringt das Gremium ins Spiel.

Standardisierung und Sicherheit liegen den Volksvertretern ebenfalls am Herzen. Roboter müssen ihnen zufolge "in lebensnahen Szenarien" jenseits reiner Versuchslabore geprüft werden, um die mit ihnen potenziell verbundenen Risiken ermitteln und bewerten zu können. Vor allem der Automobilsektor brauche dringend europäische und globale Regeln, um grenzüberschreitend automatisierte Fahrzeuge auf die Straße bringen zu können. Besondere Vorkehrungen seien auch bei Medizinrobotern, Maschinen zur "Reparatur und Optimierung des Menschen" sowie Drohnen zu treffen.

Die Abgeordneten appellieren an die Kommission, auch ein ausgewogenes Konzept "für geistige Eigentumsrechte zur Anwendung auf Hardware- und Softwarestandards sowie Kodizes vorzulegen", mit denen Innovationen geschützt und gefördert werden können. Dabei müsse die Kommission Kriterien für eine "eigene geistige Schöpfung" für urheberrechtlich schützbare Werke ausarbeiten, "die von Computern oder Robotern erzeugt werden". Auch sollte das Rechtskonzept einer "elektronischen Person" ausgelotet werden. Nicht zuletzt will der Ausschuss Forschungsprogramme gefördert wissen, um die tatsächlichen Risiken und Chancen auszuloten, die mit der Verbreitung dieser Technik verbunden sind. (Stefan Krempl) / (anw)

Anzeige
Zur Startseite
Anzeige