Bedrohen die Roboter Mensch und Gesellschaft?

27.07.2009

Eine Gruppe von US-Wissenschaftlern will die Entwicklung der Künstlichen Intelligenz sichern, indem sie vor Gefahren warnen und Regeln für die Forschung fordern

Roboter werden nicht nur autonomer, klüger und geschickter, sie dringen auch in immer weitere Bereiche der Lebenswelt ein. Offenbar ist eine Gruppe von Computerexperten, KI-Forschern und Robotwissenschaftlern, die im Februar an einem Treffen der Association for the Advancement of Artificial Intelligence - natürlich in Kalifornien - teilgenommen haben, um über die künftige Folgen fortgeschrittener Künstlicher Intelligenz auf die Gesellschaft zu sprechen und einen Bericht zu verfassen, durchaus beunruhigt.

Microsoft-Forscher Eric Horvitz, der Präsident der AAAI ist, hatte eingeladen, da sich die Wissenschaftler darüber Gedanken machen müssen, dass superintelligente Systeme Amok laufen könnten. Die Aussicht, dass Roboter der Kontrolle des Menschen entgleiten, ist dem Bestreben immanent, autonome Systeme zu schaffen, die selbständig Aufgaben erledigen können. Bedenklich wird es nicht nur bei autonomen Kampfrobotern, die bereits vor der Türe stehen, sondern nach den Teilnehmern des Treffens, wie John Markoff in der New York Times schreibt, etwa auch bei medizinischen Systemen, die den Arzt ersetzen und emotional mit Patienten interagieren sollen, oder bei Computerviren oder -würmern, die sich ihrer Zerstörung zu entziehen suchen und die Intelligenz einer Küchenschabe erreicht haben.

Dazu kann kommen, dass Roboter zunehmend menschliche Arbeit und Intelligenz überflüssig machen könnten, was zur steigenden Arbeitslosigkeit beitragen würde, während Menschen sich daran gewöhnen müssten, alltäglich mit Robotern zusammen zu leben, die wiederum erwünschtes menschliches Verhalten zeigen sollen – und dazu womöglich noch klüger sind, als viele Mitmenschen. Immerhin, so seien die Wissenschaftler überzeugt gewesen, würde im Internet nicht spontan eine Superintelligenz entstehen, also ein globaler Superorganismus oder Kybiont, der schon lange als Zukunftsvision angedacht wurde.

Im Mittelpunkt der Diskussion sei gestanden, so Markoff, dass sich Kriminelle der KI-Systeme bedienen könnten. Das betrifft nicht nur Kampfsysteme, sondern beispielsweise auch die Möglichkeit, mit KI-Systemen nach persönlichen Informationen im Internet oder auf Handys zu suchen. Ein Zweck des geplanten Berichts, der aus dem Treffen folgen und im Laufe des Jahres noch veröffentlicht werden soll, scheint der Versuch der Wissenschaftler zu sein, selbst die Probleme ihrer Forschungsrichtung frühzeitig aufzuzeigen, um Wege zu finden, wie man diese lösen könne, ohne die Forschung gesellschaftlich in Misskredit durch eine Fundamentalkritik zu bringen, wie dies im Fall der Gentechnik der Fall gewesen sei, weil man dort nur die positiven Seiten thematisierte. Lieber also ein wenig selbstkritisch sein, um die Gelder weiter in die Forschung fließen zu lassen. Die Technik soll den Menschen helfen, keine Katastrophe auszulösen. Dazu möchte man die Forschung in die richtige Richtung dirigieren. Bekanntlich aber entsteht auch und gerade aus gut Gemeintem das Falsche, zumindest ist stets mit unbedachten Nebenwirkungen zu rechnen.

Horvitz glaubt allerdings, dass in den letzten Jahren die Technikenthusiasten begonnen hätten, die Religion zu ersetzen. Sie würden ähnlich wie die evangelikalen Apokalyptiker von einem plötzlichen Bruch ausgehen. Das wäre dann nicht ein apokalyptischer "rupture" (Materieller und spiritueller Krieg gegen den Antichrist, Armageddon und der apokalyptische "Holocaust"), sondern vielleicht eine "Intelligenzexplosion" oder der Eintritt der vielbeschworenen technologischen Singularität, von dem vor allem Raymond Kurzweil fantasiert. Die Idee im Hintergrund ist, dass eine Technik, einmal angestoßen, immer schneller und irgendwie eigengesetzlich fortschreite und dann irgendwann eine Schwelle überschreite, nach der dann alles ganz anders wird, in diesem Fall etwa eine künstliche Superintelligenz entsteht, die sich vom Menschen löst und ihn hinter sich lässt oder es ihm ermöglicht, besser und länger zu leben. Angesichts solcher Techno-Utopien und wachsender Ängste vor künstlicher Intelligenz, die nicht mehr kontrollierbar sein könne, müsse die mit KI beschäftigte Wissenschaftlergemeinschaft sich äußern und Stellung beziehen, meint Horvitz.

Markoff berichtet, Horvitz würde – wenig verwunderlich – hoffen, dass die KI den Menschen helfen und menschliche Mängel kompensieren werde. Sein Beispiel ist allerdings, zumindest auf den ersten Blick, befremdlich. So habe er ein System vorgestellt, das Patienten nach ihren Symptomen befragen und im Gespräch mit Mitgefühl reagieren soll. Wenn eine Mutter beispielsweise sage, ihr Kind habe Durchfall, so würde die Stimme sagen: "Oh no, sorry to hear that." Ein Arzt habe ihm nach der Vorstellung gesagt, es sei doch wunderbar, dass das System auf menschliche Gefühle antworte: "Das ist eine große Idee. Ich habe dazu keine Zeit." Das wiederum könnte eine Zukunft sein, die viele Menschen ebenso wenig wünschen wie autonome Kampfroboter.

Die Wirtschaftskrise scheint allerdings den (Angst)Träumen von autonomen, superintelligenten Robotern in der wirklichen Welt einen Schlag zu versetzen. Ausgerechnet im Roboter freundlichen Japan geht es mit der Robotik abwärts und müssen Robotikfirmen schließen, berichtete die New York Times kürzlich. Daraus könnte man auch schließen, dass die Roboter in guten Zeiten interessanter sind. Geht es bergab, sind Menschen noch immer billiger als Arbeiter. Da stecken keine Herstellungskosten drin und man ist bei allen Mängeln doch immerhin schon zur überlebensfähigen Serienreife gelangt.

x
service:
drucken
versenden
facebook
twitter
google+
rss
newsletter
folgen:
facebook
twitter
google+
rss
newsletter
http://www.heise.de/tp/artikel/30/30806/
Anzeige
>
<

Darstellungsbreite ändern

Da bei großen Monitoren im Fullscreen-Modus die Zeilen teils unleserlich lang werden, können Sie hier die Breite auf das Minimum zurücksetzen. Die einmal gewählte Einstellung wird durch ein Cookie fortgesetzt, sofern Sie dieses akzeptieren.

Anzeige

Zum Tod von Scholl-Latour: "Wir leben in einer Zeit der Massenverblödung"

Ramon Schack 09.03.2014

Zu seinem 90. Geburtstag warf der Journalist und Islamexperte, der Gott und die Welt kennt, einen Blick auf sein Leben und auch auf die Krise in der Ukraine

weiterlesen
Telepolis Gespräch

Audio-Mitschnitt der Veranstaltung "Überwachung total" am 7. Juli mit Peter Schaar, Klaus Benesch und Christian Grothoff.
(MP3, 73min, 35MB)

bilder

seen.by

Anzeige

TELEPOLIS