Menü

Missing Link: Von Maschinenethik und vom Datenschatz der Therapie- und Pflegeroboter

"Wie groß wäre das Interesse an den Daten von Michael Schumacher!" Roboter in Pflege und Therapie stellen uns vor ganz neue Probleme, was die Ethik im Robotereinsatz und den Datenschutz angeht, meint der Wirtschaftsinformatiker und Ethiker Oliver Bendel.

Von
vorlesen Drucken Kommentare lesen 48 Beiträge
Missing Link: Von Maschinenethik und Datenschatz der Therapie- und Pflegeroboter

Der Robear des japanischen Forschungsinstituts Riken soll in der Pflege unterstützen.

(Bild: Riken )

Es ist nur noch eine Frage der Zeit, bis Pflege- und Therapieroboter in Krankenhäusern oder Pflegeheimen oder im betreuten Wohnen in der Breite eingesetzt werden. Therapieroboter wie Paro sind schon heute in vielen Einrichtungen zu finden. Wie sicher werden aber die gesammelten Daten sein? In seiner Forschung widmet sich Oliver Bendel vor allem ethischen Fragen. Im Interview mit heise online spricht er über die Fragen, die der ständig steigende Einsatz von Pflege- und Therapierobotern aufwirft.

heise online: Herr Prof. Bendel, wenn wir über Datenkraken sprechen: Stellen die Operationsroboter ein besonderes Problem dar?

Oliver Bendel: An dem Punkt gibt es im Moment die wenigsten Probleme: Dabei handelt es sich um Teleroboter, die von einem Arzt geführt und beaufsichtigt werden. Trotzdem beschäftigt es mich, dass wir nichts über die Daten wissen, die dort entstehen. Es ist doch etwas anderes, wenn der Arzt sich über den Patienten beugt und operiert, als wenn die Maschine dazwischen ist. Es ist aber unheimlich schwer, darüber etwas herauszufinden.

Der Wirtschaftsinformatiker und Ethiker Oliver Bendel lehrt und forscht an der Hochschule für Wirtschaft der Fachhochschule Nordwestschweiz (FHNW) in den Bereichen Wissensmanagement, Informations- und Maschinenethik.

In Ihrem Vortrag am Dienstag, 23. Januar, um 18 Uhr in Hannover im Schloss Herrenhausen im Rahmen der Hannah-Arendt-Tage wird es daher hauptsächlich um Pflege- und Therapieroboter gehen. Wie soll man mit den von den Maschinen gesammelten persönlichen Daten verfahren?

Bendel: In Krankenhäusern und Pflegeeinrichtungen muss ein Datenschutzkonzept auch mit Blick auf Roboter entwickelt werden. Obwohl ich kein großer Freund von Ethikkommissionen bin, benötigt man vielleicht wirklich eine solche Aushandlungs- und Überwachungsinstanz. Die sollte sich sowohl mit der Datenproblematik als auch mit Robotern auskennen.

Was bedeuten diese technischen Möglichkeiten denn für den einzelnen Patienten oder Pflegebedürftigen?

Bendel: Verständige Betroffene müssen über die Maschinen und die Gefahren, die von ihnen ausgehen, informiert werden. Als die vernetzten Kopierer auf den Markt kamen, war es schwer, den Benutzern klar zu machen, was die alles können: Dass zum Beispiel kopierte sensible Daten wie Arbeitszeugnisse auf einer Festplatte und möglicherweise bei Dritten landen.

Was können die Betroffenen tun?

Bendel: Die Situation im Krankenhaus ist sehr speziell, denn sehr schnell ist auch die Intimsphäre der Patienten betroffen. Von daher könnten aus Sicht des Betroffenen besonders sensible Daten generiert werden. Deshalb habe ich zum Schutz der Menschen schon vor einiger Zeit eine Patientenverfügung im Hinblick auf den Einsatz von Robotern entwickelt.

Wie müssen Ihrer Meinung nach die Geräte gestaltet sein, um entsprechend nutzerfreundlich auszufallen?

Bendel: Die Geräte sollten in der Regel ausschaltbar sein, vor allem aber sollten die Unternehmen Transparenz herstellen hinsichtlich Datenerhebung, -analyse und -verwendung. Samsung hat das bei seinen intelligenten Fernsehgeräten aus eigener Initiative gemacht.

Grundsätzlich aber befürworten Sie den Einsatz von Robotern in der Pflege?

Bendel: Sie bringen Vorteile für die Einrichtungen, aber auch für das Personal – in Japan zum Beispiel gibt es einen großen Mangel an Pflegekräften. Der Pfleger also würde entlastet durch einen Roboter wie Robear, den das japanische Forschungsinstitut Riken mit entwickelt hat. Bisher gibt es ihn nur als Prototyp. Aber Robear, der aussieht wie ein freundlicher Teddybär, würde im Tandem mit einer Pflegekraft arbeiten und dieser beim Tragen, Umbetten und Aufrichten von Patienten helfen.

Für den pflegebedürftigen Patienten könnte die Unterstützung durch einen Roboter zunächst aber wieder mehr Selbstständigkeit bedeuten?

Bendel: Seine persönliche Unabhängigkeit wird durchaus gestärkt, denn er könnte sich zum Beispiel die Dinge, die er braucht, bringen lassen. Dabei denke ich an Roboter wie Care-O-bot. Pflegeroboter helfen allen Beteiligten. Aber man handelt sich eben auch Nachteile ein, bezogen auf die "informationelle Autonomie" – das ist ein zentraler Begriff in dem Zusammenhang und überhaupt in der Informationsethik: Mir werden Daten weggenommen, über die ich keine Verfügungsgewalt mehr habe. Und damit ist die informationelle Autonomie beeinträchtigt. Das kann man auch auf andere medizinische Geräte übertragen: auf Exoskelette oder Rollstühle, die eventuell mit dem Gehirn gesteuert werden und die im Prinzip Daten sammeln können über den Benutzer und die Umgebung. Der Deal ist eben, dass man Federn lassen muss in Form von Daten.

Wer das Kommando hat im Gespann von Patient und Roboter, ist ebenfalls eine ethische Frage – oder?

Bendel: Der Patient könnte zum Beispiel im Vorfeld auswählen, wie der Roboter grundsätzlich verfährt. Ich halte in dem Zusammenhang viel von der bereits erwähnten Patientenverfügung. Also etwa davon, dass der Patient festlegt, solange er noch nicht dement ist, ob und wie er später von Robotern therapiert und gepflegt werden will. Das ist durchaus umstritten, denn ein dementer Patient könnte zum Beispiel begierig die Hände ausstrecken nach dem Therapieroboter Paro, der aussieht wie eine niedliche junge Sattelrobbe. Was macht man, wenn dieser Patient früher entschieden hat, dass er nicht von einer Maschine therapiert werden will? Für mich ist aber die Freiheit, über sich selbst zu entscheiden, ein hohes Gut.

Könnte ein Assistenzsystem also individuell an die Vorgaben eines Pflegebedürftigen angepasst werden?

Bendel: In der Tat, man könnte zum Beispiel an dem Gerät ein Menü einbauen und dann könnte der Patient festlegen, in welcher Weise die Maschine Daten weitergeben und was an Daten verwendet werden darf. Ich bin im Gegensatz zu bestimmten anderen Ethikern nicht der Auffassung, dass man den Einzelnen dazu zwingen sollte, seine Daten zum Wohle der Allgemeinheit zur Verfügung zu stellen.

Sie haben den Goodbot entwickelt, der im moralischen Sinne gut entscheiden und kommunizieren kann. Er erkennt zum Beispiel psychische Probleme. Wäre es sinnvoll, einen Pflegeroboter mit solchen Fähigkeiten auszustatten?

Bendel: Da bewegen wir uns nun auf dem Feld der Maschinenethik, die neben der Informationsethik mein Hauptgebiet ist. Wir entwickeln sogenannte moralische Maschinen. Der Goodbot erkennt als Chatbot Probleme eines Nutzers, wenn sie sprachlich geäußert werden, und reagiert adäquat. Das könnte man auch einem Pflegeroboter beibringen. Damit wären allerdings auch Probleme verknüpft. Ohnehin werden Pflegeroboter wie Robear noch lange im Tandem mit Personen und nicht autonom arbeiten.

Aktuellen Umfragen zufolge ist weniger als die Hälfte der Patienten bereit, Krankenkassen ihre Gesundheitsdaten zur Verfügung zu stellen. Aber besteht nicht genau dort ein großes Interesse an den Daten?

Bendel: Wenn es nach den meisten Patienten geht, sollten die Daten bei Pflegern und Ärzten bleiben. Bei Krankenkassen wird es zum Beispiel in der Schweiz problematisch, wenn es um die Zusatzversicherungen geht. Das fängt schon bei den Körperdaten an, wenn der Patient vom Roboter oder einer intelligenten Waage gewogen wird. Wenn die Daten an die Krankenkassen gingen, könnte das für Fettleibige ein Problem darstellen, die bei Zusatzversicherungen von bestimmten Leistungen ausgeschlossen sind. Eine ähnliche Problematik ergibt sich bei der elektronischen Patientenakte.

Glauben Sie, es gibt Schwierigkeiten bei der Akzeptanz solch eines Roboters durch die Patienten?

Bendel: Die Frage der Gestaltung sehe ich dabei als wesentliches Element an. Dazu gehört das äußerliche Design, aber auch die Stimmgebung. Ich bin mir nicht sicher, ob es gut ist, dem Pflegeroboter das Aussehen eines großen, freundlichen Teddybären zu geben, wie im Falle von Robear. Das mag die einen ansprechen, die anderen aber überhaupt nicht. Ein Bär wirkt nicht unbedingt wie eine Respekts- und Vertrauensperson. Die Stimme ist, wie gesagt, auch wichtig. Es wäre zum Beispiel fatal, wenn der Pflegeroboter die Stimme von Pepper hätte, denn dieser sogenannte "companion robot" spricht roboterhaft und kindlich. Man muss grundsätzlich bei humanoiden Robotern aufpassen, dass der Uncanny-Valley-Effekt nicht entsteht und der Roboter als unheimlich empfunden wird. Pepper umgeht das Problem, weil er wie eine Comicfigur umgesetzt ist. Auch ein abstraktes Design könnte sinnvoll sein.

Was ist also, wenn der Roboter mithört und das Gehörte weitergibt?

Bendel: Über Stimme, Sprechweise und Inhalte kann man unendlich viel über eine Person herausfinden. Die Maschine kann erkennen, wer ich bin, wie es mir geht und welche Wünsche und Pläne ich habe. Kombiniert man das mit Gesichts- und speziell Mimikerkennung, ergeben sich daraus noch mehr Möglichkeiten. Bei Personen von öffentlichem Interesse wie Schauspielern, Politikern oder auch bedeutenden CEOs wäre es schon ein Thema, wenn Daten aus einer Pflegeeinrichtung abgezogen werden könnten. Wie interessiert wären die Medien zum Beispiel an den Daten eines Pflegeroboters, der sich um Michael Schumacher kümmert? (Inge Wünnenberg) / (jk)

Anzeige
Anzeige