Kommentar: Wenn die Künstlichen Intelligenzen Einstein und Watson sich paaren, finden User sich in einem Alptraum wieder
Künstliche Intelligenz verspricht Erkenntnisse, die man mit herkömmlichen Rechenverfahren nie erzielen könnte. Voraussetzung sind gewaltige Datenmengen, deren Gebrauch sich kaum kontrollieren lässt.
(Bild: Alberto Racatumba / Flickr / CC BY 2.0 )
- Hans-Peter Schüler
Wir haben uns längst daran gewöhnt: Heutige Bestellungen bei Amazon sind die Basis morgiger Kaufempfehlungen. Amazon erarbeitet diese gezielte Werbung mit Machine Learning und künstlicher Intelligenz und verspricht sich davon gewaltige Umsatzchancen.
Einstein und Watson
Ähnliche Techniken wie Amazon hat auch Salesforce entwickelt. Dessen KI-Maschine "Einstein" soll aber nicht nur dem Erfinder zur Hand gehen, sondern auch anderen Firmen mit autonomen Schlussfolgerungen beim Vertrieb helfen. Mit dem Einstein-API könnten Entwickler zum Beispiel eine App programmieren, die ausgewählten Adressaten angesichts heruntergeladener Strandfotos und niedriger Hypothekenzinsen automatisch den Kauf einer Finca auf Mallorca empfiehlt.
Die wohl bekannteste KI-Software, IBMs Watson, machte bislang nur in Großprojekten wie dem Jeopardy-Wettbewerb sporadisch von sich Reden, doch jetzt kooperiert IBM mit Salesforce, um Einstein und Watson im Team einzusetzen. Salesforce-Entwickler sollen damit auch die Intelligenz – und vor allem das gesammelte Wissen – von Watson als Entscheidungsgrundlage nutzen können.
Mir macht das Angst
OK – Werbung mit Bezug auf meine persönlichen Interessen nervt mich immer noch weniger als die allgegenwärtige Haarspray-Reklame. Aber müssen die Nintendos und L'Oreals dieser Welt wirklich alles über mich wissen? Ich finde: Nein, und schon deshalb ist mir die Datenvereinigung von Salesforce und IBM suspekt. Watson und Einstein zusammen sind ein Alptraum-Team.
Was ich meinem Salesforce-nutzenden Händler über mich verraten habe, bliebe in einer anständigen Welt ohne KI auf dessen eigene Verwendung beschränkt. Mit dieser Illusion könnte ich mich noch abfinden. Doch wenn dieses personenbezogene Wissen mehr oder weniger wirksam anonymisiert allen Salesforce-Nutzern und auch den Nutzern der Watson-Engine zur Verfügung steht, werde ich durchsichtig sogar für Firmen, mit denen ich nie zu tun hatte. Keine Datenschutzbestimmung schützt mich gegen die Weitergabe aggregierter Daten, wie sie ein neuronales Netz zugänglich macht. Ich kann auch niemanden zur Rechenschaft ziehen, wenn bei der Korrelation vieler scheinbar anonymer Datensätze wie aus dem Nichts mein lückenloses Verbraucherprofil materialisiert.
Schlimmer noch: Ich kann dieses Profil nicht einmal korrigieren, wenn es auf falschen Annahmen beruht. Wenn ein neuronales Netz Milliarden von Eingangsdaten miteinander verknüpft und daraus eine Aussage ableitet, ist kaum objektivierbar, welche Informationen maßgeblich zum Ergebnis beigetragen haben. Der Fragesteller muss das Ergebnis ohne Kontrollmöglichkeit hinnehmen.
Demnächst in diesem Theater
Glaubt man den Protagonisten der Technik, drohen zumindest vorerst keine fatalen Fehlentscheidungen. Momentan planen die Anbieter den Einsatz der KI nur für nicht kritische Szenarien wie das Customer Relationship Management. Doch ist es kein großer Schritt mehr, bis die Entscheidungsgrundlage eines künstlich intelligenten CRM-Systems auch die Hüter nationaler Sicherheiten lockt. Wohin das führen kann, sieht man heute in düsteren Science-Fiction-Filmen – und morgen vielleicht in diesem Theater.
Lesen Sie dazu:
(hps)