Unser seltsames Verhalten in der Pandemie verwirrt KI-Modelle

Auf anderes Verhalten trainierte Maschinenlern-Algorithmen kommen mit dem veränderten Such- und Kaufverhalten nicht zurecht und brauchen Korrekturen.

Lesezeit: 3 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 83 Beiträge

(Bild: Kiselev Andrey Valerevich / Shutterstock.com)

Von

In der Woche vom 12. bis 18. April gehörten auf Amazon.com folgende Begriffe zu den zehn am häufigsten Gesuchten: Toilettenpapier, Gesichtsmasken, Handdesinfektionsmittel, Papierhandtücher, Lysol-Spray (Desinfektionsmittel mit Chlorverbindungen), Clorox-Tücher, Maske, Lysol, Schutzmasken gegen Keime und N95-Masken (entsprechen den deutschen FFP2-Masken). Viele suchten nicht nur, sie kauften auch, und zwar in großen Mengen. Die Mehrheit der Leute, die nach Masken suchten, kaufte schließlich den neuen Amazon-Bestseller Nr. 1, "Gesichtsmaske, Packung mit 50 Stück". Auf diese Weise wurden in nur wenigen Tagen die vorherigen Hauptumsatzträger in Amazons "Top Ten", etwa Handyhüllen, Telefonladegeräte und Lego, vom Thron gestoßen.

Mehr Infos rund um das Coronavirus

Schon Ende Februar hatte es weniger als eine Woche gedauert, bis die Top-10-Suchbegriffe bei Amazon in mehreren Ländern Produkte waren, die mit Covid-19 zusammenhingen. Man kann die Ausbreitung der Pandemie auch anhand dieser Produkte verfolgen: Der Verkauf von Covid-19-Artikeln erreichte zuerst in Italien ihren Höhepunkt, dann in Spanien, Frankreich, Kanada und schließlich in den USA. Großbritannien und Deutschland liegen nur leicht zurück.

Diese Verschiebung hat sich jedoch auch auf die künstliche Intelligenz ausgewirkt und zu Problemen bei den Algorithmen geführt, die hinter den Kulissen von Bestandsverwaltung, Betrugserkennung, Vermarktung wirken. Denn einige Maschinenlernmodelle, die auf normales menschliches Verhalten trainiert wurden, kommen nicht damit zurecht, dass sich das "Normale" verändert hat. Die Pandemie hat gezeigt, wie eng unser Leben mit Künstlichen Intelligenzen (KI) verflochten ist, und eine heikle gegenseitige Abhängigkeit aufgedeckt.

Die Entwicklung erinnert auch daran, dass die Beteiligung des Menschen an automatisierten Systemen nach wie vor von entscheidender Bedeutung ist. "Man kann sich nie ausruhen und das vergessen, wenn man sich in solch außergewöhnlichen Umständen befindet", sagt Rael Cline, Geschäftsführer des Londoner Beratungsunternehmen Nozzle, das sich auf algorithmische Werbung für Amazon-Verkäufer spezialisiert hat.

Modelle für maschinelles Lernen sind so konzipiert, dass sie auf Änderungen reagieren. Die meisten jedoch funktionieren schlecht, wenn die neuen Daten zu stark von jenen abweichen, mit denen die Algorithmen trainiert wurden. Es ist ein Fehler anzunehmen, dass man ein KI-System einrichten und es dann alleine lassen kann, sagt Rajeev Sharma, globaler Vizepräsident bei Pactera Edge: "KI ist ein lebendiger, atmender Motor."

Sharma hat mit mehreren Unternehmen gesprochen, die mit unberechenbarer KI kämpfen. Ein Unternehmen, das Einzelhändlern in Indien Saucen und Gewürze liefert, brauchte zum Beispiel Hilfe bei der Reparatur seines automatisierten Bestandsverwaltungssystems, als Großbestellungen seine Vorhersagealgorithmen überforderten. "Das System wurde nicht mit einem solchen Peak trainiert, also lief es aus dem Ruder", sagt Sharma. Sharma zufolge sollten KIs nicht nur mit den Höhen und Tiefen der letzten Jahre trainiert werden, sondern auch mit sogenannten "Freak"-Events, also Ausnahme-Ereignisse wie die Weltwirtschaftskrise der Dreißiger Jahre, dem Black-Monday-Absturz des Aktienmarktes 1987 und die Finanzkrise von 2007-2008.

Trotzdem kann man sich nicht auf alles vorbereiten. Ein Maschinenlernsystem wird grundsätzlich Probleme bekommen, wenn es nicht das sieht, was es erwartet, sagt David Excell, Gründer von Featurespace. Das Unternehmen ist auf Verhaltensanalysen spezialisiert und verwendet KI zur Aufdeckung von Kreditkartenbetrug. Seine eigene KI war etwas überraschend nicht allzu stark von den Problemen betroffen. Die Leute kaufen offenbar immer noch bei Amazon ein und abonnieren Netflix wie zuvor, aber sie kaufen keine teuren Artikel und geben ihr Geld nicht an neuen Orten aus. Beides sind Verhalten, die Verdacht erregen können: "Das Geldausgabe-Verhalten der Menschen ist eine Abschwächung ihrer alten Gewohnheiten", sagt Excell.

Die Ingenieure des Unternehmens mussten nur eingreifen, um sich auf den steilen Anstieg beim Verkauf von Gartengeräten und Elektrowerkzeugen einzustellen, sagt Excell. Dies sind die Arten von überraschenden Einkäufen zum mittleren Preis, die Betrugserkennungsalgorithmen sonst möglicherweise aufgreifen. "Ich denke, es gibt es sicherlich mehr Prüfkontrolle", sagt Excell. "Die Welt hat sich verändert, und die Daten haben sich verändert."

Laut Nozzle-Geschäftsführer Cline ist die aktuelle Situation ein Augenöffner für viele Menschen, die davon ausgegangen sind, dass alle automatisierten Systeme von alleine laufen könnten. "Man benötigt ein Data-Science-Team, das die Vorgänge in der Welt mit den Vorgängen in den Algorithmen in Verbindung bringen kann", sagt er. "Ein Algorithmus würde einiges davon niemals erkennen."

Da alles mit allem verbunden ist, sind die Auswirkungen der Pandemie überall zu spüren und beeinflussen Mechanismen, die in typischeren Zeiten verborgen bleiben. Wenn wir nach einem Silberstreifen am Horizont suchen, ist es jetzt an der Zeit, eine Bestandsaufnahme dieser neu exponierten Systeme vorzunehmen und nachzufragen, wie man sie besser und widerstandsfähiger designen kann. Wenn Maschinen vertrauenswürdig sein sollen, müssen wir über sie wachen.

(vsz)