"Digitale Schaltungen haben keinen Abstand zu sich selbst und damit kein Bewusstein"

Mads Pankow über Chancen und Risiken der KI in Corona-Zeiten und die Gefahr, "dass wir merken könnten, dass viele Jobs gar nicht fehlen, wenn sie keiner macht"

In der Corona-Krise scheinen zuvor wichtige Themen von der Bildfläche zu verschwinden. Plötzlich sind Infektionsketten, Gesundheitsrisiken, Mundschutz, social distancing und Einschränkungen des öffentlichen Lebens im Fokus. Nicht ganz zu Unrecht, sicher. Aber wie verändert sich die Arbeitswelt? Wie steht es zum Beispiel um KI? Denkbar wäre ein erhöhter Einsatz von Maschinen, da ihnen die Anfälligkeit gegenüber dem biologischen Virus fehlt. Sie ermüden zudem nicht und sind fähig, konstant hohe Leistung zu erbringen. Es sei denn, es schleicht sich ein PC-Virus in die KI. Müssen Menschen die Übernahme durch Maschinen befürchten?

Mads Pankow, in der Beratung tätig, unter anderem in Sachen Digitalisierung für verschiedene Ministerien, erörtert im Interview die Möglichkeiten und Verwerfungen der Corona-Krise für Forschung und Einsatz von KI.

Jetzt in der Corona-Krise: Könnten KIs Menschen am Arbeitsplatz ersetzen? Ein Vorteil: Maschinen stecken sich nicht mit (biologischen) Viren an.
Mads Pankow: Ganz so einfach ist das leider nicht. Auch wenn sich viele Tätigkeiten sicherlich automatisieren lassen würden, der Mensch bleibt unersetzbar. Irgendjemand muss die Algorithmen ja füttern, trainieren, steuern und kontrollieren, da bleibt immer genug zu tun. Aber das ginge sicher auch von zuhause aus, wo man sich selbst nicht so schnell ansteckt.
Allerdings müssen die Algorithmen dazu erstmal in ihre spezifische Aufgabe eingepasst und angelernt werden. Das ist oft kniffelig und dauert. Egal wie schlau die KI wirkt, bei konkreten Aufgaben ist sie häufig etwas "schwer von Begriff".
Besteht dann gar keine Gefahr?
Mads Pankow: Doch, aber die größere Gefahr für Arbeitsplätze sehe ich gerade darin, dass wir merken könnten, dass viele Jobs gar nicht fehlen, wenn sie keiner macht. Das klingt absurd, kennen wir ja aber alle, wenn der Kollege oder die Chefin mal in den Urlaub fährt und alles läuft einfach weiter. Wir unterschätzen, wie viel von dem, was wir bei der Arbeit für dringlich und unersetzbar halten, eigentlich gar keine Wirkung hat, weder in der Firma noch außerhalb.
Keinem fehlen die ganzen nicht geschriebenen Sachberichte, Analysen, Aufstellungen und Tätigkeitsnachweise. Es wird auch sicher niemand fehlende Werbekampagnen oder Unternehmensrechtsstreits beklagen. Und wenn das nächste Handymodell oder der Auto-Face-Lift ein halbes Jahr später rauskommt, ist das auch egal.
Oder anders gefragt: Sind die Menschen im Homeoffice bereits so weit digitalisiert, dass sie quasi zur KI werden (können)?
Mads Pankow: Naja, Moment, es gibt einen Unterschied zwischen der Digitalisierung der Kommunikation, die durch Mails, Chats und Videotelefonie im Homeoffice für viele schon stark vorangeschritten ist, und der Automatisierung der eigentlichen Arbeit, die zwischen diesen Kommunikationsanlässen passiert und noch gar nicht algorithmisiert ist. Da ist auch das Homeoffice kein Fortschritt.
Aber das Homeoffice wird sicher einen Effekt haben können? Gerade auch durch die Verbindung mit dem Internet.
Mads Pankow: Eine große Chance wäre das Homeoffice gerade für die Automatisierung der Arbeitssteuerung. Eine automatische Aufgabenverteilung könnte sich passgenau und minutenaktuell auf die Zeitfenster, Fähigkeiten und Belastungssituation in den Homeoffices einstellen. Da hängen wir den technischen Möglichkeiten weit hinterher. Aber darauf ist vor allem die Führungskultur noch nicht eingestellt.
Viele Menschen aus dem mittleren Management sitzen jetzt zuhause und bekommen es mit der Angst zu tun, weil sie häufig keinen Überblick über den Arbeitsstand ihrer Mitarbeitenden haben. Das könnte jetzt eine Lehre sein, die Arbeitsorganisation durch Projektmanagementsoftware transparenter zu machen und später gar automatisieren zu können.
Sie meinten in einem anderen Interview, dass Maschinen nur bestimmte Aufgaben übernehmen können. Warum?
Mads Pankow: So wie jedes Werkzeug, das wir erfunden haben, muss auch KI auf eine ganz spezielle Tätigkeit optimiert werden, damit sie uns helfen kann. Das sind hauptsächlich Fleißaufgaben: Viele tausend Seiten lesen und Worte unterstreichen, oder die Zahlenspalten von Datenblättern so lange rekombinieren, bis überraschende Zusammenhänge sichtbar werden. Aber sobald es daran geht, diese Zusammenhänge zu verstehen und zu interpretieren, ist Bewusstsein nötig und das kann KI leider bisher nicht. Und es sieht auch nicht so aus, als würde sich das ändern.
Was ist das Besondere an (maschinellem) Bewusstsein?
Mads Pankow: Bewusstsein scheint ein Operationsmodus zu sein, der anders funktioniert als "rechnen". Bewusstsein ist Selbstbeobachtung, also beobachten, wie man beobachtet und dadurch sich selbst und die Welt erkennen. Diesen Abstand haben digitale Schaltungen nicht zu sich selbst und das scheint mir technisch mit der Digitaltechnik auch nicht möglich zu sein.
Bewusstsein ist eine paradoxe Operation: Die Beobachtung der Beobachtung, das geht eigentlich gar nicht, deswegen muss sie immer scheitern, oft ja auch bei uns Menschen. Aber bei diskreten Schaltungen gehen Paradoxien halt gar nicht, das führt zum sofortigen Prozessabbruch: Absturz, Blue-Screen.

Die wichtigste Aufgabe der Zukunft ist Care Work, also die Arbeit an Anderen und für Andere

In der Corona-Krise wäre es überlegenswert, Roboter in der Pflege einzusetzen. Einerseits werden Robotpfleger nicht müde und können sich andererseits nicht anstecken! Aber werden sie von den Menschen auch angenommen?
Mads Pankow: Ja, das ist eine sehr mechanistische Vorstellung von Pflege, dass man Roboter zur Verwaltung der Alten und Gebrechlichen einsetzen kann. So wie man in Melkanlagen Kühe robotisiert, durch die Gitter schleust und abmelkt. Natürlich können Roboter bei mechanischen Tätigkeiten helfen, so wie andere Werkzeuge, Rollstühle zum Beispiel. Und digitale Systeme können auch intellektuell und emotional anregen, durch Spiele und Lernübungen, vielleicht sogar einfache Dialogsysteme.
Aber ein bewusstes Gegenüber können sie nicht ersetzen. Niemand nimmt eine Blechbüchse als ernsthaften Gesprächspartner, Tröster und Freund wahr.
Woran hängt es dann, ob sich Robotpfleger durchsetzen?
Mads Pankow: Die Frage, das klingt jetzt zynisch, ist aber, ob unserer Gesellschaft der soziale Aspekt wichtig ist oder ob man sagt: Ach, die sind eh häufig dement, die müssen halt verwaltet werden, dass die mit ihren Geschichten und Bedürfnissen auf echte Empathie treffen, ist uns nicht wichtig.
Ich wünsche mir natürlich mehr. Ich glaube, die wichtigste Aufgabe der Zukunft für den Menschen ist Care Work, also die Arbeit an Anderen und für Andere. Wie wichtig das jetzt schon ist, ist in Corona-Zeiten augenfällig, wo die Therapien pausieren, die Pflegeeinrichtungen unter Quarantäne arbeiten und die Kinder nicht angemessen betreut und gebildet werden können. Sowie, und das finde ich am Schlimmsten, kein angemessener Kinderschutz gewährleistet werden kann, weil die Kinder alle zuhause sind und damit den Blicken der Jugendämter, Schulen und Kitas entzogen werden. Immerhin hat der Begriff "systemrelevant" für viele nochmal klar gemacht, wer hier einen Beitrag für die Gemeinschaft leistet und wer nicht.
Mit einer KI, wie sie sich heute darstellt, fehlen noch einige Schritte, um selbstorganisiertes Arbeiten zu ermöglichen. Sind sie falsch programmiert?
Mads Pankow: Die Organisation von Arbeit, also sowas wie Projekt- oder Selbstmanagement, gehört zu den seltsamen Paradoxien von sehr schlichten und gleichzeitig überkomplexen Aufgaben. Kurz gesagt: Organisation ist sehr einfach, sie besteht eigentlich immer im Anfertigen und Abarbeiten von Listen. Die große Herausforderung ist aber zu wissen: Was kommt auf welche Liste an welcher Stelle zu welcher Zeit - wann muss wer was machen, damit am Ende alles sinnvoll zusammenkommt?
Was KI gut kann, ist, die Tasks, die man einträgt, zu sortieren, nach Faktoren, die man ihr vorher genannt hat: Priorität, Anspruch, Arbeitsaufwand, Frist, Abhängigkeit zu anderen Aufgaben usw. Was sie nicht kann, ist, diese Priorität selbst autonom zu bestimmen, dafür ist ein Bewusstsein nötig, das die Gesamtsituation reflektieren kann. Sie kann uns zugucken und von uns lernen und vorpriorisieren, aber sie wird dabei immer Fehler machen, die sind auch nicht wegzubekommen, weil sie immer aus der Vergangenheit lernt und die besonderen Umstände zukünftiger Projekte noch nicht kennt.

"Der Journalismus verschiebt sich stärker von der Berichterstattung zur Ereigniseinordnung und Reflexion"

Im journalistischen Bereich scheinen Roboter aber ganz gut zurecht zu kommen. Sie sollen bereits journalistische Texte schreiben? Steht hier auch eine Ablösung bevor?
Mads Pankow: Ja, tun sie. Aber das ist dann nur eine Übersetzung von Daten in Worte. Bei Fußballspielen geht das gut, da kann man ein 1:1 leicht in ein "ausgeglichenes Spiel" übersetzen oder bei Wetterberichten, die bestehen ja meist auch nur aus Floskeln, die Zahlenwerte, wie Luftdruck und Temperaturen abbilden. Selbst bei Wahlberichterstattung klappt das teilweise schon: Wenn da eine große Prozentpunktdifferenz ist, lassen sich Begriffe wie "Erdrutschsieg" aus Phrasendatenbanken abrufen.
Wenn es aber um Kontextualisierung und Interpretation von Ereignissen geht, braucht man einen Gesamtüberblick, ein Weltbewusstsein. Man muss verstehen, wie die Zahlwerte mit äußeren Ereignissen zusammenhängen, das ist alles dem bewussten Denken vorbehalten, das können nur Menschen.
Welche Konsequenzen hat das für das Selbstverständnis des Journalismus?
Mads Pankow: Der Journalismus verschiebt sich stärker von der Berichterstattung zur Ereigniseinordnung und Reflexion. Aber das ist ja schon ein längerer Prozess, der damit angefangen hat, dass den Zeitungen die Aktualitätshoheit durch den Rundfunk abgelaufen wurde. Seit den dreißiger Jahren also geht gerade der Printjournalismus weg von der "Sondermeldung" immer weiter in Richtung Reflexion und Diskussion.
Auf der anderen Seite gibt es natürlich noch den Journalisten als Reporter vor Ort, das wird auch bleiben, weil der unterscheiden kann: Was ist hier gerade wichtig und was nicht.
Sie sagen: "Am bewussten Algorithmus forschen wir jetzt seit 65 Jahren und sind leider keinen Schritt weitergekommen." Was ist falsch gelaufen?
Mads Pankow: Ich glaube, das war alles ein Missverständnis. Der Informatiker John McCarthy fasste eine Reihe von Automatisierungsproblemen in einem Forschungsantrag 1954 unter dem Begriff "artificial intelligence", also "Künstliche Intelligenz" zusammen. Es ging um sprechende Computer, selbstverbessernde Algorithmen, künstliche Kreativität usw. Er hatte sich vorgenommen, diese Probleme in einem kleinen Forschungsprojekt über den Sommer, in zwei Monaten mit 10 Leuten, zu lösen. Tatsächlich haben wir keines dieser Probleme bis heute befriedigend gelöst.
Der Fehler war, dass stattdessen durch dieses Forschungsprojekt der Eindruck entstand, Computer müssten das gleiche können wie Menschen: Denken, sprechen, kreativ sein, also kurz intelligent sein. Seit 65 Jahren versuchen wir Computern beizubringen, so zu funktionieren wie wir, nur besser, dabei hätte man sich meiner Meinung nach lieber darauf konzentrieren sollen, sie mit unserem hochgradig redundanten, assoziativen, unlogischen, affektiven Denken in Ruhe zu lassen, das können wir ja so schon gut, und sich darauf zu konzentrieren, was Computer besser können: rechnen. Das konnten sie übrigens auch schon 1954 besser als die ganze Menschheit zusammengenommen.
Die Übersetzung zwischen Maschine und menschlicher Sprache braucht scheinbar noch einiges an Arbeit? Oder sollte die KI-Entwicklung vielleicht in andere Bereiche gelenkt werden?
Mads Pankow: Ja, da zeigt sich das Problem: Menschen denken nicht wie Maschinen und Maschinen rechnen nicht wie Menschen. Daher gibt es im eigentlichen Sinne keine Kommunikation zwischen den beiden, als zwei Partner, die wechselseitig versuchen, anhand von Laut- oder Buchstabenfolgen, das andere Bewusstsein zu rekonstruieren, so wie das bei Menschen untereinander der Fall ist. Es ist eher so, dass man Steuerungsbefehle durch Dateneingabe oder -ausgabe produziert.
Das Interface für diese Ein- und Ausgaben könnte man noch optimieren. Da gibt es viele Versuche, durch Hirnstrommessungen und ähnliches eine direktere Verbindung zwischen Hirn und Maschine herzustellen. Aber um ehrlich zu sein, hat sich dieses umständliche System von Tastatur, Maus und Bildschirm sehr gut bewährt. Wahrscheinlich gerade deshalb, weil es nur mittelbar ist, man sich also als Mensch selbst noch beim Tippen zuschauen und korrigieren kann. Ich möchte eigentlich nicht, dass der Computer automatisch eine Bildersuche zu allen meinen Gedanken auslöst.
Profitiert die KI-Entwicklung von der Coronakrise?
Mads Pankow: Nein, das glaube ich nicht. Geld für die Entwicklung von KI-Anwendungen ist von Seiten der Wirtschaft und des Staates durch die großen KI-Strategien international mehr vorhanden als ausgegeben werden kann. Da kann man gar nicht viel mehr ausgeben. Mir fallen auch wenig neue Anwendungsmöglichkeiten ein, die nicht auch vor der Pandemie schon bearbeitet wurden.
Ich glaube eher, dass die Ernüchterung groß sein wird, dass die KI doch nicht die Welt retten konnte, sondern dass das am Ende die Menschen wieder selbst übernehmen mussten. (Dominik Irtenkauf)