Künstliche Intelligenz: Bundesregierung will Meldepflicht bei Unfällen

Fünf Ministerien begrüßen im Kern das KI-Weißbuch der EU-Kommission, fordern aber noch Korrekturen etwa beim geplanten "risikobasierten Ansatz".

Lesezeit: 2 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 10 Beiträge

(Bild: PHOTOCREO Michal Bednarek/Shutterstock.com)

Von

Mit fast anderthalb Monaten Verspätung hat die Bundesregierung Position bezogen zum Weißbuch der EU-Kommission für Künstliche Intelligenz (KI). Sie regt damit etwa an, für KI-Systeme mit hohem Risiko ein Register sowie eine Meldepflicht bei Unfällen beziehungsweise "Vorfällen" zu schaffen. So soll ein Wach- und Alarmsystem für die Schlüsseltechnik etabliert werden, wenn davon Gefahren beispielsweise für die Sicherheit sowie die Verbraucher- und Grundrechte ausgehen.

Eine Sonderrolle bringen die Ressorts für Bildung, Wirtschaft, Arbeit, Inneres und Justiz, die federführend an der 28-seitigen Stellungnahme beteiligt waren, dabei für Polizei und Geheimdienste ins Spiel: Da diese aufgrund ihrer Aufgabenprofile "fast ausschließlich KI-Systeme mit hohem Risiko einsetzen", sollte für sie eine zentrale Institution als Registerstelle fungieren.

heise online daily Newsletter

Keine News verpassen! Mit unserem täglichen Newsletter erhalten Sie jeden Morgen alle Nachrichten von heise online der vergangenen 24 Stunden.

Generell unterstützt die Bundesregierung die Ansicht der Kommission, dass der geplante Rechtsrahmen für Künstliche Intelligenz "auf einem chancen- und risikobasierten Ansatz" beruhen sollte. So sei die "Verhältnismäßigkeit des regulatorischen Eingreifens" am besten zu gewährleisten. Doch während die EU-Kommission erwägt, strenge Anforderungen etwa an Transparenz und Nachvollziehbarkeit nur für KI-Systeme mit "hohem Risiko" vorzusehen, erachtet die Bundesregierung "ein Klassifikationsschema aus mehr als zwei Stufen für angebracht".

Es sei fraglich, ob für KI-Anwendungen mit geringerem Gefährdungspotenzial allein die bereits geltenden EU-Vorschriften ausreichen, begründen die Ministerien ihren Appell. Relevante Risiken könnten etwa bestehen für Leben und Gesundheit, Vermögen, demokratische Prozesse, Umwelt, Klima, soziale, gesellschaftliche und wirtschaftliche Teilhabe. Die Klassifizierung müsse daher sowohl unterschiedliche Gefahren eines einschlägigen Systems in einem bestimmten Kontext zutreffend bestimmen als auch "eine praktikable Zuordnung des KI-Systems durch den Rechtsanwendenden möglich machen".

Dabei seien "Gemeinwohlinteressen und individueller Nutzen zu berücksichtigen", Innovationen dürften aber nicht beeinträchtigt werden, führt die Bundesregierung aus. Ferner sollten Ausnahmetatbestände für Forschung und Entwicklung geprüft werden und "Anwendungen ohne Schädigungspotenzial keiner spezifischen Kontrolle unterliegen". Auch andere hochrangige Belange wie etwa Klima- und Umweltschutz müssten ausdrücklich anerkannt werden, um so das große Potenzial von "AI Made in Europe" für den Green Deal auszuschöpfen.

Bei der Entwicklung von KI sollte die Lösung gesellschaftlicher sowie ökologischer Herausforderungen etwa durch den Einbau von Nachhaltigkeit in die Technik ("Sustainability by Design") möglichst frühzeitig in den Blick genommen werden, heißt es. KI-Anwendungen könnten entscheidend zur Erreichung der Ziele für nachhaltige Entwicklung beitragen. Darüber hinaus sollte in allen Mitgliedsstaaten die Barrierefreiheit von KI-Anwendungen gewährleistet sein.

Für nötig hält die Regierung eine "europäische Ordnungspolitik für KI". Alle Akteure bräuchten Planungs- und Rechtssicherheit und müssten KI-Anwendungen vertrauen können. Die menschenzentrierte und nachvollziehbare Entwicklung und Anwendung von KI-Systemen auf Basis eines geeigneten Rechtsrahmens müsse Markenzeichen einer europäischen KI sein.

Das "Ökosystem für Vertrauen" basiere insbesondere auf den Vorgaben der Datenschutz-Grundverordnung (DSGVO), unterstreicht die Exekutive. Allgemein müssten auch bei neuartigen Risiken, die auf bestimmte Besonderheiten von KI zurückgehen, insbesondere Handlungsfreiheit, informationelle Selbstbestimmung, Berufsfreiheit, Gleichbehandlung und effektiver Rechtsschutz gewährleistet bleiben.

Die Bundesregierung trägt das Vorhaben der Kommission mit, Ansprüche an die menschliche Aufsicht von KI-Systemen inklusive "einer Möglichkeit der menschlichen Letztentscheidung" zu entwickeln. Nur aufgrund "sektorspezifischer Belange" könnte darauf etwa künftig "beim autonomen Fahren" möglicherweise verzichtet werden. Zu klären sei auch, ob der derzeitige Rechtsrahmen der Produktsicherheit und -haftung bei eingebetteten KI-Systemen ausreiche. Dass die Kommission hier ein neues Risikobewertungsverfahren für autonomes Verhalten ins Spiel bringe, das vom Hersteller nicht vorhersehbar ist, sei "notwendig und sinnvoll".

In einem Entwurf des Kommissionspapiers war von einem temporären Verbot automatisierter Gesichtserkennung im öffentlichen Raum die Rede. Die Bundesregierung lobt, dass solche "Systeme für biometrische Fernidentifikation" aufgrund ihrer besonderen Risiken für die Freiheitsrechte der Bürger "besondere Aufmerksamkeit" erfahren. Die Diskussion über das grundsätzliche "Ob" ihres Einsatz und damit auch über mögliche breite gesetzliche Schranken laufe noch, klare Vorgaben dazu müssten aber formuliert werden.

Die deutschen Ministerien geben dabei zu bedenken, dass das grundsätzliche datenschutzrechtliche Verbot der Verarbeitung biometrischer Daten "nur die Verwendung" solcher Systeme begrenze. Aufgrund der Tiefe der möglichen Eingriffe in grundrechtlich geschützte Güter sei darüber hinaus "eine abgestufte Regulierung beim Inverkehrbringen" solcher Verfahren zu prüfen, die durch einen Verbraucher etwa über das eigene mobile Endgerät gesteuert werden könnte.

Generell macht sich die Regierung für ein "breit aufgestelltes Wertschöpfungsnetzwerk" stark, um die Innovationspotenziale von KI und die exzellente europäische Expertise auf diesem Gebiet für unterschiedliche Akteure aller Größen und Branchen nutzbar zu machen. Gleichzeitig bedürfe es aber noch "eines umfassenden Aufbaus von KI-Kompetenz". Gerade die aktuelle Coronavirus-Pandemie zeige, dass die Technik "einen wichtigen Beitrag zur Krisenbewältigung leisten kann". Eine "entsprechende Mittelausstattung" in den relevanten Programmen des mehrjährigen Finanzrahmens sei so unabdingbar. (jk)