Avatar von ALomax
  • ALomax

mehr als 1000 Beiträge seit 02.06.2014

Die eigentliche Gefahr ...

... ist ja nicht, dass "bestehende Probleme zementiert werden", sondern dass überhaupt nicht vorhandene Zusammenhänge für die Entscheidungsfindung herangezogen und tatsächliche Zusammenhänge dadurch übersehen werden. Das ist immer dann ein Risiko, wenn Korrelationen ohne Kausalität nicht nur zufällig entstehen, sondern durch die Verbindung mit einer dritten Größe - wenn man dann diese Korrelationen für die Entscheidungsfindung heranzieht, hat man nicht nur das Problem, dass sie gar nichts mit dem Thema zu tun haben oder vielleicht gar nicht mehr bestehen können. Viel schlimmer ist, dass man ja eine relevante dritte Größe hat, die tatsächlich eine Rolle spielt und auf die man eingehen könnte, um im Einzelfall eine bessere Entscheidung zu treffen.

Ein bekanntes Beispiel für so einen Zusammenhang, das jetzt mal nichts mit Kriminalität zu tun hat, aber das Problem womöglich anschaulich machen kann: Es gibt ja eine Korrelation in Deutschland zwischen dem Einkommen der Eltern und dem Bildungsabschluss der Kinder, woraus gerne der Kurzschluss gezogen wird, dass die Bildung in Deutschland vom Einkommen der Eltern abhängt. Was ein klassisches Beispiel für eine derartige Korrelation ist, bei der eine Kausalität unterstellt wird - genau das also, was in dem Artikel nun für die KIs angenommen wird.
Weitere Studien zu dem Thema haben aber längst belegt, dass in Wahrheit der Bildungsgrad von Kindern in Deutschland vor allem vom Bildungsgrad der Eltern abhängt, und diese Abhängigkeit kann den scheinbaren Zusammenhang von Einkommen und Bildung zu 100% erklären. Sprich, wenn die Eltern schlechter ausgebildet sind, verdienen sie im Durchschnitt auch weniger als besser ausgebildete Personen, so dass rein statistisch der Eindruck entsteht, dass schlechteres Einkommen zu schlechterer Bildung führt - obwohl in der Praxis in den meisten Fällen die Kinder des klischeehaften "studierten Taxifahrers" kaum einen schlechteren formalen Bildungsstand haben werden als die des studierten Managers ... und im Durchschnitt sogar einen höheren Bildungsstand als die Kinder des weniger gebildeten Unternehmers, der sich zu einem höheren Einkommen hochgearbeitet hat.
Wenn also die Prognose über die "Bildungsrisiken" von Kindern auf Grundlage des Elterneinkommens getroffen wird, beinhaltet das nicht nur das Risiko von statistischen Fehlschlägen oder "Ausrutschern", die dadurch zustande kommen dass die Korrelation eben keine Abhängigkeit ist. Es verstellt vor allem den Blick darauf, dass es mit der "Bildung im Elternhaus" einen viel besseren Faktor zur Beurteilung gibt, der im Einzelfall verraten kann, wann die Prognose nach Einkommen mit hoher Wahrscheinlichkeit falsch liegt.
Und während ein menschlicher Entscheider mit hoher Wahrscheinlichkeit bei einer hoch gebildeten Familie vermutlich sieht, dass die Kinder keine zusätzlichen Fördermaßnahmen brauchen ... oder umgekehrt, Kinder aus einem reichen Elternhaus trotzdem strunzdoof sein können und womöglich gefördert werden müssen, ist ein Algorithmus (und mehr sind heutige KIs nicht), letztendlich davon abhängig, was ein Entwickler sich im stillen Kämmerlein an Zusammenhängen ausgemalt und implementiert hat ... oder aber komplett vergessen hat oder sich nicht vorstellen könnte.
Und da ist es immer gefährlich, wenn solche scheinbar "objektiven" Ergebnisse die Einschätzung des Beobachters vor Ort überstimmen, der in aller Regel eben doch mehr an begleitenden Einzelheiten wahrnimmt.

Bewerten
- +