Menü

Münchner Sicherheitskonferenz: Ein Killswitch für gefährliche KI?

Noch vor Beginn lud die Münchner Sicherheitskonferenz zur Debatte über autonome Waffensysteme und KI und versuchte gleich eine Lanze zu brechen für eine (fast) automatische Moderatorin: Roboter Sophia versicherte: "Ich bin kein KillerRobot".

Münchner Sicherheitskonferenz: Ein Killswitch gegen Gefahren durch KI?

Moderatorin "Sophia" und der Chef der Münchner Sicherheitskonferenz Wolfgang Ischinger

(Bild: heise online/Monika Ermert)

Innovative Maßnahmen zur Regulierung und Kontrolle künstlicher Intelligenz forderte Estlands Präsidentin Kersti Kaljulaid bei einer am Vorabend der Münchner Sicherheitskonferenz veranstalteten Podiumsdiskussion zu KI und Cyberkrieg. Vom Notausschalter für gefährliche KI-Algorithmen bis zum Whistleblowing per Blockchain hatte Kaljulaid dazu einige Ideen im Gepäck. Ein von der Kampagne StopKillerRobots gefordertes Verbot lehnte Kaljulaid dagegen ab. Geladen hatte zum traditionsgemäss vom US-Konsulat veranstalteten öffentlichen Tech-Talk dieses Mal die Sicherheitskonferenz selbst. Ein US-Vertreter fehlte auf dem Podium.

Um sinnvoll Nutzen aus der Zukunftstechnik zu ziehen, dürfe KI auf keinen Fall Gegenstand eines militärischen Wettrüstens werden, erkannte Estlands Präsidentin in München an. Mary Wareham, Koordinatorin der Kampagne StopKillerRobots, erläuterte in München, warum zahlreiche Wissenschaftler und Organisationen für ein Verbot der Erforschung, Produktion und Verbreitung autonomer Waffensysteme werben.

Unterstützung bekam sie ausgerechnet von Seite der Militärs. Der ehemalige Nato-Generalsekretär Anders Fogh Rasmussen sprach sich für ein Verbot solcher Waffensysteme aus. Autonome Waffensysteme sorgten ebenso wie die neuen Cyberangriffsmöglichkeiten für eine zunehmende geopolitische Destabilisierung. Außerdem sei er entschieden der Meinung, so Rasmussen, "dass der Einsatz von tödlicher Gewalt immer in der Hand von Menschen liegen muss". Letzteres ist laut dem Inspekteur des Bereichs Cyber und Informationsraum (CIR) der Bundeswehr, Ludwig Leinhos auch die deutsche Position. Für eine verbindliche internationale Ächtung haben sich bislang allerdings weder Dänemark noch Deutschland ausgesprochen. Mehr Einsatz von KI mindestens in der Aufklärung und eine für 2019 geplante eigene Abteilung von Softwareexperten steht auf dem Programm des CIR.

Kaljulaid dagegen empfahl demgegenüber eine "clevere Regulierung". Sie erkannte die Notwendigkeit an, auf Risiken von KI zu reagieren. "Die drei größten Risiken sind eine auf Zerstörung ausgerichtete Nutzung, eine außer Kontrolle geratene KI und der exzessive Energieverbrauch." Diese Risiken rechtfertigen internationale Kontrolle, so die Estin. Durch das Monitoring hoher Energieverbrauchswerte könnten KI-Systeme aufgespürt werden. Spezielle Whistleblowing-Systeme, in die besorgte Softwareentwickler Hinweise darauf einstellen, dass etwas aus dem Ruder laufe, könnten die Kontrolleure an kritische Stellen führen. Schließlich riet sie auch zu einer Art standardmäßig eingebautem "Killswitch". Der soll Algorithmen im Gefahrenfall den Garaus machen können.

Statt eines Verbots will die für das als digitales Musterland sprechende Politikerin aber KI maximal ausnutzen. Estland arbeite unter anderem am Projekt "proaktiver Staat", bei dem schon mit der Geburt eines Kindes automatisiert festgestellt werden soll, welche Ansprüche ein Kind an das Sozialsystem haben soll. Außerdem will man bis 2018 in Estland eine eigene Rechtsperson für KI-Systeme schaffen. In einem Verkehrsunfall, so berichtete sie, habe das KI System übrigens Recht bekommen – ein Mensch hatte ihm die Vorfahrt genommen.

Die Münchner Sicherheitskonferenz hat in den vergangenen Jahren mehr und mehr Fragen der Cybersicherheit ins Programm aufgenommen. Freitagvormittag beginnt sie mit einem hinter verschlossenen Türen statt findenden Cyber-Roundtable. Drei Tage lang wird im Bayerischen Hof unter großer Polizeibewachung über Geopolitik und internationale Konflikte gesprochen. Am Samstag lädt ein Aktionsbündnis zur Gegendemonstration und die europäischen Piratenparteien veranstalten ihre Sicherheitskonferenz. (Monika Ermert) / (mho)

Anzeige
Zur Startseite
Anzeige