Sie wissen alles

27.10.2014

Yvonne Hofstetter warnt vor intelligenten Maschinen, die uns zunehmend kontrollieren werden - ein Veranstaltungshinweis

Yvonne Hofstetter hat in ihrem Buch "Sie wissen alles" den Versuch gemacht, die technischen Entwicklungen vorzustellen, die hinter den Buzzwords von Big Data, Internet der Dinge, Industrie 4.0 und autonomen Maschinen stehen, aber gleichzeitig für eine Diskussion darüber zu werben, wohin die Reise gehen soll: "Intelligente Maschinen, die uns 'optimieren' wollen, greifen in unseren Alltag ein und regeln unsere Zukunft. Unsere Menschenwürde ist akut bedroht und damit unsere demokratische Grundordnung."

In der Reihe "Überwachung" sprach Yvonne Hostetter am Dienstagabend den 28.10. um 20 Uhr im Literaturhaus München über das Anliegen ihres Buchs und die Möglichkeiten und Risiken, die mit Big Data und den intelligenten Maschinen entstehen. Im Anschluss diskutierte Florian Rötzer mit der Autorin und auch das Publikum wurde mit einbezogen. Veranstalter: Telepolis, C. Bertelsmann Verlag und Stiftung Literaturhaus.

Yvonne Hofstetter weiß, wovon sie spricht. Sie ist seit 2009 Geschäftsführerin von Teramark Technologies, ein Unternehmen, das intelligente Programme zur Auswertung von großen Datenmengen (Big Data) aus unterschiedlichen Quellen für Unternehmen, Finanzindustrie, Militär und Staaten entwickelt. Dabei geht es nicht nur um Situations- und Risikoanalysen in Echtzeit, sondern auch um lernende Multi-Agenten-Systeme, die sich selbstorganisiert als Schwarm optimieren und steuern. Dabei kann es sich um Sensoren im Internet der Dinge handeln, die selbst intelligent sind, es können virtuelle Agenten sein oder auch autonome Maschinen, die miteinander wie ein Ameisenkollektiv kommunizieren und eine kollektive Intelligenz ausbilden. Je mehr Daten eine Maschine verarbeiten kann, desto intelligenter kann sie werden, desto selbständiger und unabhängiger vom Menschen kann sie agieren. Und der wird nicht nur zunehmend transparent, sondern kann zunehmend mehr gesteuert werden, gerade auch durch die Cyborgisierung des Menschen, der hofft, sich individuell mit Techniken kontrollieren, ergänzen und optimieren zu können.

Es droht die Selbstentmachtung nicht so sehr, wie man früher fürchtete, durch menschenähnliche Roboter, sondern durch intelligente Systeme, die nach gewissen Regeln, die nur noch Experten verstehen, in einer für uns unüberschaubar komplexen Big-Data-Welt mit einer uns bei weitem übertreffenden Geschwindigkeit handeln und damit eine maschinelle Parallelwelt erstellen, wie Hofstetter sagt. So werden zwar bereits autonome Fahrzeuge getestet, aber es bleibt unklar, wie alleine schon die Haftung bei Unfällen geregelt werden soll. Ähnlich müsste für die heraufziehende Industrie 4.0 geklärt werden, wie Maschinen miteinander Verträge schließen können, wenn alle an einem Fertigungsprozess beteiligten Komponenten vernetzt sind, miteinander und mit unterschiedlichen Produktionsstätten kommunizieren und ganze Fertigungsketten sich fortwährend selbständig modellieren, um die Herstellung zu optimieren.

Ursprünglich hat Yvonne Hofstetter Rechtswissenschaft studiert, was wohl auch bedingt hat, dass sie ihren Finger auf die Folgen der intelligenten Systeme für das Rechtssystem und die demokratische Gesellschaft legt. Während die technischen Fähigkeiten wachsen, überrollen die Datenschürfer mit ihren intelligenten Maschinen die bestehenden Rechtssysteme, umgehen sie diese als globale Unternehmen dank der Konkurrenz der Standorte, nutzen kosten- und schrankenlos unsere Daten. Die Gefahr droht, so Hofstetter, dass die intelligenten Maschinen mit den dahinter stehenden Verwertungs- oder Sicherheitsinteressen auf einen weitgehend rechtsfreien Raum zusteuern, zumindest was die Rechte der Einzelnen und der Gesellschaften betrifft. Die Profit-und Eigentumsinteressen wollen die Konzerne natürlich wahren und stärken.

Stefan Aust spricht etwa von einer Digitalen Diktatur, weil es nicht mehr darum geht, was wir tun oder getan haben, sondern auch abzuschätzen, was wir demnächst tun werden, um immer einen Schritt voraus zu sein oder die Schritte in eine gewünschte Richtung zu lenken. Und Yvonne Hofstetter spricht von der Privatisierung der Diktatur und warnt davor, dass wir getrieben von Optimierung, Sicherheit und Profitstreben derzeit noch blind und weitgehend ungeregelt in eine Welt rutschen, in der Big Brother letztlich kein Menschen mehr, sondern kühl Daten verarbeitende KI-Programme, die blitzschnell in Konkurrenz und im ungeregelten Wettrüsten mit anderen Entscheidungen über und für uns treffen.

Moralische Grenzen der Datenfusion?

Hofstetter glaubt oder hofft, dass mit einprogrammierten Verhaltensregeln und gesetzlichen Regelungen die Herrschaft der intelligenten Maschinen und die der dahinter stehenden Konzerne eingedämmt werden kann. Und sie vertritt die Maxime des von ihr geleiteten Unternehmens, sich zumindest bei der Entwicklung ihrer Programme die Menschenrechte zu achten. Das Unternehmen will die Freiheit des Menschen, wie sie in den europäischen Verfassungen verankert ist, achten. Daher würden persönliche Daten nicht zusammengeführt und keinen Optimierungstechniken unterworfen. Auf der Website von Teramark ist die Rede von den "moralischen Grenzen der Datenfusion", die dann erreicht zu sein scheinen, wenn nicht Staaten "Multi-Sensor-Datenfusion für die Sicherheit ihrer Zivilgesellschaften" einsetzen, was ja auch Totalüberwachung, Aufmerksamkeit auf Verdächtiges und Prävention bedeutet, sondern wenn sie von der Wirtschaft genutzt werden und das Ziel nicht mehr ein Objekt wie Flugzeuge, Autos, Fertigungsprozesse, sondern der Internetnutzer ist:

Als Sensoren dienen das Smartphone einer Person, ihr Auto, ihr Fitness-Armband oder ihre intelligente Haustechnik - kurzum, das "Internet der Dinge". Fusion Engines analysieren die Ausgangsdaten der persönlichen Sensoren und setzen so das Gesamtbild einer Person zusammen. Die Person wird überwacht und gleichzeitig analysiert, klassifiziert und standardisiert - mit nicht abschätzbaren Folgen für die Zukunft der Person, für die Schicksal eine völlig neue Bedeutung bekommt, wenn die Datenfusion ihr Urteil gefällt hat und sehr genau weiß, in welcher Lage sich die Person befindet: verheiratet, geschieden, überschuldet, vorbestraft, mit einem voraussichtlich künftigen Finanzbedarf von n Euro oder einer Wahrscheinlichkeit p, in den nächsten fünf Jahren an Krebs zu erkranken… Die Nutzung dieser Lageinformation, etwa durch Weiterverkauf an Banken, Versicherungen, andere Unternehmen verstößt gegen die Menschenwürde. Das war nicht die initiale Absicht der Architekten der Multi-Sensor-Datenfusion; so jedoch wird sie zur größten gesellschaftlichen Herausforderung unseres Jahrzehnts.

Allerdings sind Produkte eines Erfinders oft nicht nach dessen vielleicht gut gemeinten Absichten eingesetzt worden. Gut möglich, dass Unternehmen mit ethischen Verpflichtungen zur Datensparsamkeit oder -abstinenz in manchen Bereichen auch einen Wettbewerbsvorteil erzielen und Politikern beratend zur Seite stehen können, kaum vorstellbar aber ist, dass es im globalen Spiel der Staaten und der global agierenden Unternehmen die im Namen der Sicherheit und der Ökonomie betriebene Aufweichung des Datenschutzes schnell, wenn überhaupt zu einer Umkehr kommen könnte.

Datenuniversum

Wir bewegen uns in einer Welt, in der wir freiwillig und unbeabsichtigt immer mehr digitale Daten produzieren und hinterlassen, in der Daten von uns und unseren Aktivitäten durch explosiv sich vermehrenden Schnittstellen und Sensoren abgegriffen, gespeichert, zusammengeführt und verarbeitet werden. Wir leben in einer Welt, die sich in ein Datenuniversum verdoppelt und erweitert hat, aber die nun zunehmend auch nur noch ein Teil dieses Datenuniversums ist. Längst gibt es nicht nur ein Internet der Dinge, sondern auch eines der lebendigen Wesen, zu denen primär wir selbst gehören. Dazu kommen intelligente Agenten und Roboter, die sich mit uns, den Maschinen und Sensoren den virtuellen Raum teilen. Wir benutzen das Internet, bewegen uns unter den Augen von Überwachungskameras oder Satellitensensoren, führen Smartphones, Uhren, Brillen, smarte Kleidung oder Navigationssysteme mit uns, fahren in Autos mit Online-Anbindung, deren Kennzeichen abgegriffen werden, nutzen unsere Geld- und Kreditkarten bei Einkäufen, tummeln uns im Internet und laden über Notebooks, Smartphones, Tablets, Kameras oder Pulsmesser freiwillig jede Menge Daten über uns und unsere Umgebung ins Netz. Wir werden überwacht und überwachen uns selbst, alles im Dienst der Optimierung unseres Lebens, die uns von datenhungrigen Konzernen in Form von Techniken und Programmen mit Hintertüren verführerisch angeboten und aufgedrängt wird.

Wir leben bereits unter einer Datenglocke, in der wir uns wie in einem Spinnennetz verfangen und nicht mehr lösen können, auch wenn wir aktiv und willentlich versuchen, in der analogen Welt zu bleiben und keinen digitalen Schatten zu werfen. In der Arbeitswelt können wir sowieso nicht austreten, aber auch nicht in der restlichen Zeit, wenn wir nicht zu selbstgenügsamen Einsiedlern werden wollen. Und auch dort würden wir zunehmend im Visier bleiben.

Mag sein, dass dieses Bild der totalen Transparenz, des digitalen Panopticon, übertrieben ist. Schaut man sich die Konflikte an, so scheinen die Geheimdienste noch wenig Ahnung zu haben, wo sich kritische Entwicklungen anbahnen oder sich wichtige Akteure aufhalten. So können zwar Drohnen und Kampfflugzeuge sichtbare Stellungen des Islamischen Staats in Syrien oder im Irak beschießen, aber der Aufenthalt der Führer der Terrororganisation bleibt unbekannt, weil man keine Spione vor Ort einschleusen kann und nur die elektronische Ausspähung zur Verfügung hat. Das mag zwar im Hinblick auf den Islamischen Staat bedauerlich sein, zeigt aber doch Grenzen der Überwachung auf.

Staatliche Agenturen sind in aller Regel Parasiten, sie saugen nur das ab, was andere an Daten generiert haben. Und weil Daten die Ressource des digitalen Zeitalters sind und alles andere vom Geld über Energie bis zum Gefühl auch nur wichtig ist, wenn es ein digitales Datum ist, das frei zirkulieren und verarbeitet werden kann, hat der einen Vorteil, der möglichst exklusiv, möglichst schnell an möglichst viele Daten herankommt und sie am besten im eigenen kommerziellen, politischen oder persönlichen Interesse auswerten kann.

Aber das ist lange nicht alles. Zwar basiert das bestehende System darauf, dass Daten kostenlos abgegriffen werden können, auch wenn die Sensoren etwas kosten, was aber die Datenproduzenten, also wir, gerne auch selbst finanzieren. Persönliche Daten sind bislang kostenlos zu haben, sie sind der Preis, den wir bezahlen, um bestimmte Angebote nutzen oder an bestimmten Aktivitäten teilhaben zu können. Yvonne Hofstetter malt nicht nur das bekannte und lange thematisierte Zeitalter der umfassenden Überwachung aus, sie macht auch klar, dass wir längst in eine neue Phase übergetreten sind, in der das Sammeln und Verarbeiten von Daten nun durch lernende und eigenständig entscheidende KI-Programme zur Prognose und zur Steuerung von Prozessen, Objekten und auch Menschen eingesetzt wird. Das kann drastische Folgen haben, wenn es beispielsweise um das Zocken auf den Finanzmärkten, um unsere Kreditwürdigkeit, die berufliche Eignung und Karrieremöglichkeiten, die Wahl von Partnern oder die Beurteilung geht, wie gefährlich oder riskant wir eingeschätzt werden.

Big Data, das Sammeln von unterschiedlichsten Daten in gewaltigen Größenordnungen, macht nur Sinn, wenn man sie so auswerten kann, dass Entscheidungen getroffen werden können, die zu gewünschten Veränderungen in der Welt führen, aus der die Daten stammen. Die Auswertung der Daten wird unter dem Diktat der Komplexität und Geschwindigkeit immer mehr von intelligenten Programmen vorgenommen, die auch entscheiden, ob Wertpapiere gehalten oder verkauft werden, ob Tricks oder Täuschungen eingesetzt werden, ob eine Datenspur oder ein Mensch verdächtig ist. Dabei treten intelligente Programme wie an der Börse, sicher auch bei Geheimdiensten oder vielleicht auch im Kampf von Sicherheitsbehörden mit Terroristen und dem organisiertem Verbrechen, gegeneinander an. Unabhängig von den Menschen, aber in Entscheidungen, die Menschen betreffen, die wirtschaftliche Entwicklung, die Lösung oder Zuspitzung von Krisen, bald womöglich auch die Entscheidung, ob verdächtige Menschen festgenommen oder von Drohnen exekutiert werden. Die Menschen, die die Künstliche Intelligenz schaffen, kreieren ein neues Schicksal, eine neue Natur, mit der die Menschen sich zurechtfinden müssen, für das sie womöglich eine neue Religion erschaffen müssen, weil die Prozesse, die sie freigesetzt haben, nicht mehr rückholbar zu sein scheinen, zumindest so lange es keine Weltregierung gibt.

x
Fehler melden
Telepolis zitieren
Vielen Dank!
Kommentare lesen (99 Beiträge) mehr...
Anzeige
Hellwach mit Telepolis
Anzeige
Cafe
Telepolis-Cafe

Hochwertiger Kaffee und Espresso aus Costa Rica: Die Telepolis-Edition für unsere Leser

Anzeige
Anzeige

Digitale Mauern um iOS, Windows oder Android

Der bunte Gerätepark drängt zunehmend zur Loyalität mit einem der großen Hersteller

Die berechnete Welt Das gekaufte Web Eine kurze Geschichte des Quantencomputers
bilder

seen.by

Mit dem Schalter am linken Rand des Suchfelds lässt sich zwischen der klassischen Suche mit der Heise-Suchmaschine und einer voreingestellten Suche bei Google wählen.

Tastenkürzel:

ctrl-Taste:
Zum Wechseln zwischen Heise- und Google-Suche

esc-Taste:
Verlassen und Zurücksetzen des Eingabe-Felds

Buchstaben-Taste F
Direkt zur Suche springen

SUCHEN

Mit dem Schalter am linken Rand des Suchfelds lässt sich zwischen der klassischen Suche mit der Heise-Suchmaschine und einer voreingestellten Suche bei Google wählen.

SUCHEN

.
.