Menü

Kommentar: Wenn die Künstlichen Intelligenzen Einstein und Watson sich paaren, finden User sich in einem Alptraum wieder

Künstliche Intelligenz verspricht Erkenntnisse, die man mit herkömmlichen Rechenverfahren nie erzielen könnte. Voraussetzung sind gewaltige Datenmengen, deren Gebrauch sich kaum kontrollieren lässt.

Von
vorlesen Drucken Kommentare lesen 305 Beiträge
Kommentar: CRM = KI²

(Bild: Alberto Racatumba / Flickr / CC BY 2.0 )

Wir haben uns längst daran gewöhnt: Heutige Bestellungen bei Amazon sind die Basis morgiger Kaufempfehlungen. Amazon erarbeitet diese gezielte Werbung mit Machine Learning und künstlicher Intelligenz und verspricht sich davon gewaltige Umsatzchancen.

Ein Kommentar von Hans-Peter Schüler

Als Chemiker (Umweltanalytik und -simulationen) habe ich auch Qualitätssicherung im Labor gelernt und an Firmen vermittelt. Dafür relevantes IT-Wissen fand ich nur in der c't mit ihrem breiten Spektrum und freue mich, nun selbst daran mitzuarbeiten.

Ähnliche Techniken wie Amazon hat auch Salesforce entwickelt. Dessen KI-Maschine "Einstein" soll aber nicht nur dem Erfinder zur Hand gehen, sondern auch anderen Firmen mit autonomen Schlussfolgerungen beim Vertrieb helfen. Mit dem Einstein-API könnten Entwickler zum Beispiel eine App programmieren, die ausgewählten Adressaten angesichts heruntergeladener Strandfotos und niedriger Hypothekenzinsen automatisch den Kauf einer Finca auf Mallorca empfiehlt.

Die wohl bekannteste KI-Software, IBMs Watson, machte bislang nur in Großprojekten wie dem Jeopardy-Wettbewerb sporadisch von sich Reden, doch jetzt kooperiert IBM mit Salesforce, um Einstein und Watson im Team einzusetzen. Salesforce-Entwickler sollen damit auch die Intelligenz – und vor allem das gesammelte Wissen – von Watson als Entscheidungsgrundlage nutzen können.

OK – Werbung mit Bezug auf meine persönlichen Interessen nervt mich immer noch weniger als die allgegenwärtige Haarspray-Reklame. Aber müssen die Nintendos und L'Oreals dieser Welt wirklich alles über mich wissen? Ich finde: Nein, und schon deshalb ist mir die Datenvereinigung von Salesforce und IBM suspekt. Watson und Einstein zusammen sind ein Alptraum-Team.

Was ich meinem Salesforce-nutzenden Händler über mich verraten habe, bliebe in einer anständigen Welt ohne KI auf dessen eigene Verwendung beschränkt. Mit dieser Illusion könnte ich mich noch abfinden. Doch wenn dieses personenbezogene Wissen mehr oder weniger wirksam anonymisiert allen Salesforce-Nutzern und auch den Nutzern der Watson-Engine zur Verfügung steht, werde ich durchsichtig sogar für Firmen, mit denen ich nie zu tun hatte. Keine Datenschutzbestimmung schützt mich gegen die Weitergabe aggregierter Daten, wie sie ein neuronales Netz zugänglich macht. Ich kann auch niemanden zur Rechenschaft ziehen, wenn bei der Korrelation vieler scheinbar anonymer Datensätze wie aus dem Nichts mein lückenloses Verbraucherprofil materialisiert.

Schlimmer noch: Ich kann dieses Profil nicht einmal korrigieren, wenn es auf falschen Annahmen beruht. Wenn ein neuronales Netz Milliarden von Eingangsdaten miteinander verknüpft und daraus eine Aussage ableitet, ist kaum objektivierbar, welche Informationen maßgeblich zum Ergebnis beigetragen haben. Der Fragesteller muss das Ergebnis ohne Kontrollmöglichkeit hinnehmen.

Glaubt man den Protagonisten der Technik, drohen zumindest vorerst keine fatalen Fehlentscheidungen. Momentan planen die Anbieter den Einsatz der KI nur für nicht kritische Szenarien wie das Customer Relationship Management. Doch ist es kein großer Schritt mehr, bis die Entscheidungsgrundlage eines künstlich intelligenten CRM-Systems auch die Hüter nationaler Sicherheiten lockt. Wohin das führen kann, sieht man heute in düsteren Science-Fiction-Filmen – und morgen vielleicht in diesem Theater.

Lesen Sie dazu:

(hps)