Technik-Entwicklung: Automatisch entmündigt

Technik-Entwicklung: Automatisch entmündigt

@ctmagazin | Editorial

Wie eine KI auf unbekannte Situationen reagiert, lässt sich kaum vorhersagen. Wenn der Automatismus aber das letzte Wort hat, kann das für Menschen gefährlich werden.

Wer die Wahl hat, hat wenigstens noch ein Wörtchen mitzureden. Gemeint ist ausnahmsweise nicht die Europawahl, es geht um automatische Prozesse, die im Alltag über uns bestimmen. Wie der Open-Source-Browser Firefox, der Anfang Mai aufgrund eines abgelaufenen Zertifikats aus heiterem Himmel sämtliche Plug-ins deaktivierte.

Eine Kleinigkeit, könnte man meinen, doch es war auch der auf Firefox basierte Tor-Browser und dort das NoScript-Plug-in betroffen. Plötzlich und ohne Eingriffsmöglichkeit lud der Tor-Browser die aktuell besuchte Seite erneut und führte den dort enthaltenen JavaScript-Code aus. Und damit auch Code, der bei mancher Website versucht, die Besucher zu identifizieren. Man kann nur hoffen, dass dadurch kein Dissident in einem Land, das noch die Todesstrafe praktiziert, enttarnt wurde.

Das Problem ist die generelle Einstellung von Entwicklern gegenüber Anwendern: Wir wissen besser, was zu tun ist, und deshalb bauen wir einen Automatismus ein, der den Anwender zum Zuschauer macht.

Diese Sichtweise verbreitet sich leider immer weiter. Es ist unbestritten eine gute Idee, per Steuerungscomputer zu verhindern, dass es bei einem Passagierflugzeug zu einem Strömungsabriss an den Tragflächen kommt. Trotzdem darf ein Automatismus nicht den Piloten zum Passagier mit der besten Aussicht degradieren, indem er dessen Manöver einfach übersteuert.

Denn ein Automatismus funktioniert nur in den Grenzen, in denen er entwickelt wurde - selbst bei einer KI. Wie er auf unbekannte Situationen reagiert, lässt sich kaum vorhersagen. Wenn der Automatismus aber das letzte Wort hat, kann das für Menschen gefährlich werden.

Deshalb, liebe Entwickler: Sicher sind Anwender nicht immer ausreichend informiert, um stets die perfekte Entscheidung zu treffen. Unterstützt sie, die Situation richtig einzuordnen, aber lasst ihnen die Wahl. Eure Programme und Geräte sind nur Werkzeuge in der Hand der Menschen. Das solltet ihr nicht verkehren. (mid)

Dieser Artikel stammt aus c't 12/2019.

Kommentare

Anzeige