Niemand hat die Absicht, autonome Roboter zu bewaffnen …

08.10.2015

... NATO und Fraunhofer-Gesellschaft arbeiten allerdings daran

In der Auseinandersetzung um die Anschaffung bewaffneter Drohnen für die Bundeswehr spielt auch die Debatte um wachsende Autonomie unbemannter Systeme eine zentrale Rolle. Anlässlich der Eröffnung einer der wichtigsten Konferenzen zu Künstlicher Intelligenz (KI), der IJCAI (International Joint Conference on Artificial Intelligence), am 28. Juli 2015 warnten etwa prominenter Wissenschaftler mit einem offenen Brief, der von über 20.000 Menschen unterzeichnet wurde, dass mittlerweile ein Punkt erreicht sei, an dem Waffensysteme , die sich ihre Ziele selbst suchen, um sie auszuschalten, "innerhalb von Jahren, nicht Jahrzehnten" einsatzbereit sein könnten.

Wenn auch nur eine der großen Militärmächte die Entwicklung von Waffen mit Künstlicher Intelligenz vorantreibt, ist ein globaler Rüstungswettlauf nahezu unausweichlich und der Endpunkt dieses technologischen Pfades ist offensichtlich: autonome Waffen werden die Kalaschnikows der Zukunft.

Offener Brief

Die KI-Forscher weisen darauf hin, dass die Entwicklung autonomer Waffensysteme "als dritte Revolution der Kriegführung nach dem Schießpulver und Nuklearwaffen beschrieben wurden", aber anders als etwa Atombomben bald auch von nicht-staatlichen Akteuren einfach und günstig hergestellt werden könnten.

In einer Anhörung des Verteidigungsausschusses des Bundestages zur Anschaffung bewaffneter Drohnen warnte auch der Physiker Marcel Dickow von der regierungsnahen Stiftung Wissenschaft und Politik (SWP) davor, dass für unbemannte bewaffnete Luftfahrzeuge der "Pfad in die Autonomie - nach derzeitigem Kenntnisstand - nicht zu stoppen sein" wird. "Wer glaubt, solche autonomen oder teilautonomen Funktionen mit Verbindung zum Waffeneinsatz durch eine definitorische Grenze ausschließen zu können, verkennt die bereits heute stattfindende Nutzung von Assistenzsystemen in der Militärtechnologie" so Dickow in seiner Stellungnahme. Deshalb sei von der Bewaffnung unbemannter Systeme abzusehen.

Die Bundesregierung schlug diese Warnungen in den Wind und hat sich mittlerweile auf die Anschaffung bewaffneter Drohnen und die Entwicklung einer eigenen bewaffnungsfähigen Drohne gemeinsam mit Frankreich und Italien festgelegt. Im Koalitionsvertrag hatte sie hierzu noch versprochen: "Vor einer Entscheidung über die Beschaffung qualitativ neuer Waffensysteme werden wir alle damit im Zusammenhang stehenden völker- und verfassungsrechtlichen, sicherheitspolitischen und ethischen Fragen sorgfältig prüfen." Zugleich jedoch hatte sie festgehalten, "für die Einbeziehung bewaffneter unbemannter Luftfahrzeuge in in ernationale Abrüstungs- und Rüstungskontrollregime ein[zu]treten und sich für eine völkerrechtliche Ächtung vollautomatisierter Waffensysteme ein[zu]setzen, die dem Menschen die Entscheidung über den Waffeneinsatz entziehen".

Davon ist bislang jedoch wenig zu spüren. Ganz im Gegenteil findet vom 6.-8. In Bonn eine Konferenz der NATO zu "Intelligenz und Autonomie in der Robotik" statt, bei der ethische Fragestellungen offenbar keine Rolle spielen. Im Call for Papers zur Konferenz wird das erklärte Ziel ausgegeben, innerhalb der NATO "das Wissen im Bereich intelligenter und autonomer Roboter zu konsolidieren, die Lücken zwischen zivilen Lösungen und militärischen Anforderungen zu identifizieren und den Transfer der erfolgversprechendsten Technologien in die militärische Domäne zu verfolgen". Begründet wird dies u.a. damit, dass unbemannte Systeme immer wichtiger für die Streitkräfte würden, diese sich aber insbesondere in "dichten, urbanen Landschaften" schlecht von der Ferne aus Steuern ließen.

Zu dem Experten-Treffen eingeladen hatte die "Science and Technology Organisation" (STO) der NATO mit Sitz in Frankreich, den Vorsitz im Programmausschuss führt Dr. Dirk Schulz vom Fraunhofer FKIE (Institut für Kommunikation, Informationsverarbeitung und Ergonomie) in Bonn, wo auch die Konferenz stattfinden wird. Die STO ist u.a. in sechs technischen Panels organisiert, die Bonner Tagung findet im Rahmen des "Information Systems Technology" Panels (IST) statt, das gegenwärtig ebenfalls von einem Mitarbeiter des Fraunhofer FKIE, Dr.-Ing. Michael Wunder, betreut wird. Außer dem Call for Paper finden sich so gut wie keine Informationen zur Veranstaltung, auch nicht über die Teilnehmenden und den genauen Veranstaltungsort. Obgleich seine Gebäude auf dem Titelblatt des Call for Papers abgebildet sind, hat das FKIE keine Pressemitteilung o.ä. zur Konferenz veröffentlicht.

Das FKIE war bis 2009 gemeinsam mit dem Forschungsinstitut für Hochfrequenzphysik und Radartechnik (FHR) und dem Forschungsinstitut für Optronik und Mustererkennung (FOM) Teil der Forschungsgesellschaft für Angewandte Naturwissenschaften e.V. (FGAN), bevor alle drei in die Fraunhofer-Gesellschaft e.V. integriert wurden (letzteres als Fraunhofer Institut für Optronik, Systemtechnik und Bildauswertung IOSB).

Im Vorfeld dieser Umstrukturierung verfasste der Wissenschaftsrat eine ausführliche Stellungnahme zu den FGAN-Instituten, in dem er als Besonderheit herausstellte, dass diese vom Bundesverteidigungsministerium grundfinanziert seien und "als einzige Forschungsgesellschaft Deutschlands nahezu ausschließlich Forschungs- und Dienstleistungen auf dem Gebiet der Wehrtechnik" bereitstellen. Das FKIE fokussiere sich insbesondere auf die "Anforderungen des militärischen Führungs- und Aufklärungsprozesses. Zur Verbesserung der Kommunikations- und Informationssysteme der Streitkräfte beschäftigt sich das Institut unter anderem mit der Weiterentwicklung von Zielverfolgungsverfahren, der Verarbeitung von Daten und Informationen sowie deren konsistenter Verteilung in Informationssystemen, der Sicherheit von Funknetzen und schließlich mit der Konzeption und Realisierung von geeigneten Benutzeroberflächen. Zu den Aufgaben des Instituts gehört ebenfalls die ergonomische Gestaltung von Waffen- und Führungssystemen".

Die Spezialisierung auf Wehrforschung und die Zusammenarbeit mit der NATO schließen jedoch eine enge Zusammenarbeit mit zivilen Einrichtungen und Hochschulen keineswegs aus. So ist etwa der Leiter des FKIE, Prof. Dr. Peter Martini, zugleich Leiter der Abteilung 4 des Instituts für Informatik an der Rheinischen Friedrich-Wilhelms-Universität Bonn, die sich mit sehr ähnlichen Fragestellungen mit teilweise explizitem Bezug zu militärischen Anwendungen auseinandersetzt - häufig in Kooperation mit dem FKIE.

Eine gemeinsame Arbeitsgruppe der Abteilung 4 des Instituts für Informatik und des FKIE zu "Sensor Data and Information Fusion" verweist bereits auf der Homepage des Instituts auf die Bedeutung ihrer Forschung als "eine der wichtigsten Triebkräfte bei der Transformation weg von eher herkömmlichen Einsatzdoktrinen. Insbesondere für Operationen Out-of-Area und Einsätze in urbanem Umfeld sowie im Umgang mit asymmetrischen Gegnern ist eine verteilte Hochleistungsaufklärung unerlässlich... Darüber hinaus werfen intelligente Sicherungssysteme für Häfen, Kritische Infrastrukturen und zum Schutz von Lagern sicherlich forschungsintensive Fragestellungen im Bereich der Data Fusion auf".

Der Schutz von Häfen beschäftigt auch die Forscher am FKIE, die etwa ein "Antennensystem" entwickeln, das "die kontinuierlich ausgestrahlten Funksignale von Mobilfunksendemasten [nutzt], um verdächtige Boote zu entdecken", indem das System aus dem Echo dieser Signale räumliche Informationen errechnet. "Bei Versuchen vor Eckernförde und vor Fehmarn ist es den Forschern bereits gelungen, nur wenige Meter lange Speedboote in einer Entfernung von vier Kilometern zu verfolgen", so eine Meldung auf der Homepage des FKIE.

Mit der Rede von "Verfolgung" und "Identifizierung" wird der eigentliche Zweck jeder militärischen Aufklärung kaschiert

Auf die enge Zusammenarbeit zwischen der Uni, dem FKIE und dem ebenfalls in Bonn ansässigen und im Fraunhofer-Verbund Verteidigungs- und Sicherheitsforschung (VVS) organisierten Institut für Intelligente Analyse- und Informationssysteme (IAIS) hatte bereits der Drohnenforschungsatlas der Informationsstelle Militarisierung e.V. hingewiesen:

Auf der Homepage der Abteilung III (Datenbanken und Informationssysteme, Softwaretechnologie, Bildverarbeitung und Mustererkennung, Künstliche Intelligenz und Robotik) des Instituts für Informatik der Uni Bonn findet sich u.a. eine gemeinsameForschungsarbeit des Instituts mit dem Fraunhofer FKIE, die ... über Experimente berichtet, bei denen mit einer auf einem Roboter montierten Kamera Personen anhand von Merkmalen wie 'Kleidung, Haarfarbe, Hautfarbe, etc.' unterschieden und autonom verfolgt werden können. Die dreibeteiligten Autoren vom Fraunhofer FKIE haben allesamt zuvor an der Universität Bonn einen Abschluss gemacht.

Während international die Kollegen vor den Gefahren bewaffneter Autonomie und Künstlicher Intelligenz in militärischen Systemen warnen und sich die Politik nach außen abwägend und zögerlich gibt, wird in NATO und an von der Regierung finanzierten Forschungsinstituten wie jenen der Fraunhofer-Gesellschaft mit Hochdruck in diese Richtung geforscht. Z

war ist es richtig, dass weder auf der NATO-Konferenz, noch am FKIE offen jener Schritt angedacht wird, vor dem die KI-Forscher in ihrem offenen Brief und NGOs wie Human Rights Watch in erster Linie warnen, nämlich "intelligente" Systeme selbst über den Waffeneinsatz entscheiden zu lassen. Stattdessen ist vielmehr von "Verfolgung" und "Identifizierung" die Rede, womit jedoch der eigentliche Zweck jeder militärischen Aufklärung kaschiert wird. Der Delegierung dieser Funktionen an unbemannte, autonome Systeme liegt jedoch die Annahme zugrunde, dass diese die Aufgabe besser, schneller und präziser erfüllen könnten und bereits jetzt wählen diese Systeme jene Informationen aus und bereiten sie auf, nach denen an weit entfernten Ort die Tötungsentscheidung getroffen wird.

Auch wenn hierbei natürlich vom Waffeneinsatz wieder einmal keine Rede ist, beschreibt das FKIE genau so die Aufgabe der Data Fusion:

Angesichts der heutigen Sicherheitsaufgaben stößt der Mensch an die natürlichen Grenzen seines Wahrnehmungsspektrums und seiner Konzentrationsfähigkeit. Er ist auf moderne, multisensorielle Aufklärungssysteme angewiesen, die Sensordaten und Informationen aus Datenbanken auswerten und zu handhabbarem 'Wissen' verdichten - sie 'fusionieren'. Nur auf diese Weise gewinnen die handelnden Menschen ein umfassendes Situationsbewusstsein und damit eine verlässliche Grundlage für ihre Entscheidungen.

x
Fehler melden
Telepolis zitieren
Vielen Dank!
Anzeige
Anzeige
Hellwach mit Telepolis
Anzeige
Cafe
Telepolis-Cafe

Angebot des Monats:
Kaffee und Espresso aus Nicaragua in der Telepolis-Edition für unsere Leser

Cover

Aufbruch ins Ungewisse

Auf der Suche nach Alternativen zur kapitalistischen Dauerkrise

Anzeige

Die Form folgt den Finanzen

Der Hochhausbau verstärkt die Defizite, die er beseitigen soll

Cover

Die Tiefe des Raumes

Ökonomie und Wissenschaft des Fussballspiels

Die Neurogesellschaft Kritik der vernetzten Vernunft 9/11 - Der Kampf um die Wahrheit
bilder

seen.by

Mit dem Schalter am linken Rand des Suchfelds lässt sich zwischen der klassischen Suche mit der Heise-Suchmaschine und einer voreingestellten Suche bei Google wählen.

Tastenkürzel:

ctrl-Taste:
Zum Wechseln zwischen Heise- und Google-Suche

esc-Taste:
Verlassen und Zurücksetzen des Eingabe-Felds

Buchstaben-Taste F
Direkt zur Suche springen

SUCHEN

Mit dem Schalter am linken Rand des Suchfelds lässt sich zwischen der klassischen Suche mit der Heise-Suchmaschine und einer voreingestellten Suche bei Google wählen.

SUCHEN

.
.