KI-Kommission des Bundestags: Verweigern ist keine Option

Die Enquete-Kommission für Künstliche Intelligenz hat fertig. Einen Algorithmen-TÜV und Upload-Filter will sie nicht, aber einen Anspruch auf Erklärbarkeit.

Lesezeit: 4 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 19 Beiträge

(Bild: Shutterstock/Usa-Pyon)

Von
  • Stefan Krempl
Inhaltsverzeichnis

Nach gut zwei Jahren Arbeit hat die Enquete-Kommission Künstliche Intelligenz (KI) des Bundestags am Mittwoch ihren Abschlussbericht an Parlamentspräsident Wolfgang Schäuble (CDU) übergeben. Die 19 Abgeordneten und 19 externen Sachverständigen haben das Werk unter das Leitbild einer "menschenzentrierten KI" gestellt und wandeln damit auf den Spuren der Bundesregierung, die mit ihrer KI-Strategie das Gemeinwohl in den Vordergrund rückte.

Die rund 800 Seiten durchzieht eine "Ja, aber"-Haltung zu der ausgemachten nächsten Stufe "einer durch technologischen Fortschritt getriebenen Digitalisierung". Der von KI vorangetriebene Wertewandel sei "nicht per se schlecht", müsse aber demokratisch gestaltet werden, heißt es etwa. KI-Anwendungen sollten "vorrangig auf das Wohl und die Würde der Menschen ausgerichtet sein und einen gesellschaftlichen Nutzen bringen". Nur so lasse sich das positive Potenzial der Schlüsseltechnik ausschöpfen sowie das für ihren wirtschaftlichen Erfolg nötige Vertrauen der Nutzer begründen und bestärken.

Das Gremium plädiert für eine KI made in Germany mit "europäischer Prägung", die sich vom staatsdirigistischen chinesischen und marktgetriebenen US-amerikanischen Ansatz abhebt. Auf dem von der EU-Kommission und der Datenethik-Kommission eingeschlagenen Weg, KI-Systeme in Risikoklassen einzuteilen und besonders gefährliche Varianten wie automatisierte Gesichtserkennung möglicherweise zu verbieten, wollte die Mehrheit der Beteiligten aber nicht wandeln.

2017 hatte die SPD noch einen Algorithmen-TÜV gefordert, damit niemand durch softwaregestützte Entscheidungen diskriminiert werde oder zu Schaden komme. Für solche Regulierungsvorgaben gebe es in der Sozialdemokratie nach wie vor "Sympathie", erklärte die Vorsitzende der KI-Kommission, Daniela Kolbe. Dafür habe es aber "keinen breiten Konsens" gegeben.

"Wir werden uns keine DIN-Vorschriften ausdenken", um KI einzuhegen, konstatierte die SPD-Abgeordnete. Sie fände es aber gut, wenn Unternehmen auf einem digitalem DIN-A4-Zettel mögliche Risiken ihres Systems anführten. KI-Lösungen, die der Staat anwendet, sollten zudem auf Risiken überprüft werden, sei sich die Mehrheit einig gewesen. Auch die schon in einem Zwischenbericht geforderte Ächtung autonomer tödlicher Waffensysteme sei Bestandteil der finalen Ratschläge.

Ein Antrag aus der Opposition, wonach sich die Regierung international für den Bann von "Killer-Robotern" stark machen sollte, fand unlängst keine Mehrheit im Bundestag. Trotzdem betonte SPD-Obmann Rene Röspel, die Volksvertreter erwarteten, dass sich die Exekutive "mindestens Teile der Empfehlungen zu eigen macht" und etwa in die nächsten Versionen ihrer KI-Strategie einarbeite. Für den Sozialdemokraten ist auch klar, dass neue Prüfinstanzen nötig sind. Nur allgemeine Normen zu setzen und sonst auf die Selbstregulierung der Wirtschaft zu hoffen, reiche nicht aus.

"Wir haben viele Praxisbeispiele betrachtet und dabei festgestellt: Wir brauchen keinen Algorithmen-TÜV und keine neuen Aufsichtsbehörden", meinte dagegen die Obfrau der CDU/CSU-Fraktion, Ronja Kemmer. Die Politik könne "auf bestehende Mechanismen und Prinzipien aufsetzen, etwa bei der Zulassung von KI-Systemen oder bei der Absicherung von etwaigen Risiken". Sich der KI als Technologie verweigern zu wollen, sei "keine ernstzunehmende Option".

Umstritten war auch der Bereich Arbeit, wo die Ambivalenz der Technik deutlich zutage trat. KI eröffne Chancen für Arbeitnehmer, löse bei ihnen aber auch Ängste aus, hielt die zuständige Projektgruppe fest. Gefährliche, körperlich schwere und immer wiederkehrende Arbeiten könnten reduziert werden und KI-Systeme bei der Lösung komplexer Aufgaben eine unterstützende Funktion erfüllen. Andererseits bestehe "ein schmaler Grat zwischen der Unterstützung menschlicher Tätigkeiten und Formen der Einschränkung der Entscheidungsautonomie". Folgen könnten eine "Arbeitsverdichtung", eine rigidere Kontrolle der Leistung und eine "Entwertung menschlichen Erfahrungswissens" sein.

Eine Kernfrage für viele sei, "ob das eigene Beschäftigungsverhältnis durch den Einsatz von KI-Systemen gefährdet ist", ist der Kommission nicht entgangen. Evidenzbasierte Forschungsergebnisse dazu gebe es bisher nur wenige. Bisherige Automatisierungswellen hätten "nicht zu großen Nettoverlusten bei der Beschäftigung geführt". Nun betreffe KI aber auch Bereiche kognitiver Arbeit, "die sich in der Vergangenheit als relativ automatisierungsresistent erwiesen haben". Möglicherweise werde im Arbeitsmarkt so ein "Mismatch" entstehen – also die Koexistenz von "disruptiven Arbeitsplatzverlusten auf der einen" und Fachkräftemangel auf der anderen Seite.

Auch der Schutz der Persönlichkeitsrechte, die Organisation von Mitbestimmung, Transparenz und Vertrauenskulturen würden vom Einsatz lernender Maschinen berührt, hält die Kommission fest. Beschäftigte und ihre Interessenvertretungen sollten daher gemäß dem Prinzip "Gute Arbeit by Design" etwa bereits bei der Definition der Ziele und Konfiguration von KI-Systemen "ebenso wirksam mitgestalten können wie bei der Evaluation, dem Betrieb und der Fortentwicklung der sozio-technischen Einsatzbedingungen".