Künstliche Intelligenz: Pentagon verpasst sich ethische Leitlinien

Das US-Verteidigungsministerium will sicherstellen, dass Waffensysteme mit "unbeabsichtigtem Verhalten" außer Gefecht gesetzt werden können.

Lesezeit: 1 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 16 Beiträge

Im Cyber Operations Center in Fort Mead.

(Bild: defense.gov)

Von

Nach einer 15-monatigen Konsultationsphase mit führenden Experten aus Industrie, Verwaltung und Wissenschaft hat das Pentagon sich fünf Ethikregeln für den Einsatz von Künstlicher Intelligenz (KI) aufgestellt. Ein Szenario, in dem ein außer Kontrolle geratener Killer-Roboter Amok läuft, soll damit offenbar vermieden werden. Die Technik müsse jederzeit steuerbar sein, lautet eines der Prinzipien.

Das US-Verteidigungsministerium verpflichtet sich, alle KI-Fähigkeiten so zu entwickeln, dass sie "ihre gewünschten Funktionen erfüllen". Es soll jederzeit möglich sein, nicht angestrebten Konsequenzen auf die Spur zu kommen und diese zu vermeiden. Eingesetzte Systeme, die "unbeabsichtigtes Verhalten" an den Tag legen, müssten isoliert und deaktiviert werden können.

heise online daily Newsletter

Keine News verpassen! Mit unserem täglichen Newsletter erhalten Sie jeden Morgen alle Nachrichten von heise online der vergangenen 24 Stunden.

Künstliche Intelligenz bringe "neue ethische Unklarheiten und Risiken" mit sich. Pentagon-Personal werde KI daher "verantwortlich" einsetzen. Es werde wohlüberlegte Schritte machen, um "ungewollte Vorurteile" zu minimieren und zu "fairen" automatisierten Entscheidungen zu kommen. Schon gewollte Diskriminierungen mithilfe von Algorithmen sind damit aber nicht ausgeschlossen.

Die Grundsätze entsprechen laut US-Verteidigungsminister Mark Esper den jüngst vorgestellten Ansätzen des Weißen Hauses für "vertrauenswürdige KI" nach dem Vorbild Europas. Das Joint Artificial Intelligence Center (JAIC) des Ministeriums, das momentan etwa das Großprojekt "Joint Enterprise Defense Infrastructure Cloud" (Jedi) mitbetreut, soll dafür sorgen, dass die Prinzipien eingehalten werden.

Der frühere Google-Chef Eric Schmidt, der den Innovationsbeirat des Pentagons leitet, meint, dass Demokratien imstande seien, neue Technik verantwortungsvoll zu regulieren. Die Forscherin Lucy Suchman, die die Rolle von KI in der Kriegsführung untersucht, befürchtet dagegen, dass das Pentagon sich nur einen ethischen Anstrich verpassen wolle und damit seine Hände in Unschuld zu waschen versuche. So sei etwa das immer wieder vorkommende Wort "angemessen" offen für zahlreiche Interpretationen. (anw)