Mit welchen Tricks Bewerber Recruiting-KI manipulieren

Wenn Software Bewerbungen auswertet, können Kandidaten durchfallen, deren Unterlagen nicht für Maschinen optimiert sind. Andere tricksen die Software aus.

Lesezeit: 3 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 123 Beiträge

Es gibt zahlreiche Dienstleister, die mit ihrer Software Bewerbungen vorfiltern. Unternehmen wollen so effizienter beim Recruiting werden. Wie aber damit umgehen, wenn die KI passende Lebensläufe aussortiert?

(Bild: mauritius images / Suriyan)

Von
  • Eva Wolfangel

Rund um das Auslesen von Lebensläufen in Bewerbungsschreiben, sogenanntes CV-Parsing, hat sich eine eigene Industrie gebildet. Auch wenn es zunächst nur darum geht, die Inhalte in die entsprechenden Datenbanken der Unternehmen einzutragen, findet dabei schon eine gewisse Vorauswahl statt. Schließlich spielt es eine Rolle, inwiefern die Maschine eine bestimmte Qualifikation erkennt, als wie relevant oder aktuell diese angesehen wird und ob Recruiter, die nach dieser Qualifikation suchen, die Bewerberin oder den Berwerber auch präsentiert bekommen. Welche Probleme das mit sich bringen kann, welche Chancen Unternehmen trotzdem darin sehen und wie sich die Software austricksen lässt, berichtet MIT Technology Review in seiner aktuellen Ausgabe.

Denn der nächste Schritt im automatischen Bewerbungsprozess ist oft schon ein Ranking beziehungsweise Matching: Welche Bewerberin passt am besten auf die ausgeschriebene Stelle? Da es hierbei darum geht, Muster zu finden, scheint es naheliegend, dafür Systeme des maschinellen Lernens einzusetzen. Ein kleiner Selbstversuch offenbart allerdings die Schwächen solcher Software, denn offenbar kommt sie mit einem mehrspaltig gesetzten – noch dazu recht komplexen – Lebenslauf nicht zurecht, berichtet TR-Autorin Eva Wolfangel: "Obwohl die Software davon ausgeht, dass ich mein halbes Erwachsenenleben am MIT verbracht habe, wird bei "Auslandserfahrung" ausschließlich Deutschland angegeben. Dafür habe ich erstaunliche Fähigkeiten erworben: Robotik, Künstliche Intelligenz und Informatik bescheinigt mir das System zu "100 Prozent", Psychologie zu 80 Prozent und Luftfahrt / Verteidigung mit 35 Prozent. Erst dann kommt Publizistik mit 28 Prozent – trotz zahlreicher journalistischer Stationen und keiner einzigen in einem KI-, Robotik- oder Luftfahrt-Unternehmen."

Dieser Text stammt aus: Technology Review 4/2022

(Bild: 

Technology Review 4/2022 im heise shop

)

Die Synthetische Biologie könnte zur Schlüsseltechnologie des 21. Jahrhunderts werden. Sie liefert die Werkzeuge, wie Forschende den Code des Lebens verändern und ihn neu schreiben können. Das neue Heft ist ab dem 19.5. im Handel und ab dem 18.5. bequem im heise shop bestellbar. Highlights aus dem Heft:

Dass man Ranking-Algorithmen, die maschinelles Lernen verwenden, sogar mit ihren eigenen Waffen schlagen kann, haben die Cybersecurity-Forscherinnen Anahita Samadi und Shirin Nilizade von der University of Texas bereits 2021 gezeigt.

Die Forscherinnen nutzten unter anderem ein System, das die Ähnlichkeit zwischen Stellenausschreibung und Bewerbungen misst und daraus ein Ranking erstellt. Anschließend veränderten sie die Stellenausschreibung schrittweise, um dahinterzukommen, welche Stichworte vom Algorithmus für entscheidend für den Inhalt angesehen werden. Schließlich reicherten sie neue Bewerbungen um diese Keywords an. Im Durchschnitt verbesserte sich die Position der 100 Lebensläufe, die die Forscherinnen in ihrem Experiment nutzten, bei Bewerbungen auf 50 zufällig ausgewählte Stellenausschreibungen um 16 Plätze. Allerdings sagen die Forscherinnen auch, dass der Effekt rückläufig war, wenn zu viele Keywords ergänzt wurden. Offenbar "bestraft" der Algorithmus zu viele Keywords.

"In Deutschland wird wenig darüber gesprochen, ob und welche Unternehmen entsprechende Systeme einsetzen, "das wird schon fast versteckt", sagt sagt Lajla Fetic, Co-Leiterin des Programms Digitalisierung und Gemeinwohl / Ethik der Algorithmen der Bertelsmann Stiftung. In einer Studie der Uni Bamberg wurden 1.000 Unternehmen befragt, von denen lediglich 2,8 Prozent angaben, algorithmische Systeme bei der Auswahl von Bewerberinnen zu nutzen. "Das ist eine extrem geringe Zahl, diese Blackbox müsste man erst mal lüften." Fetic sorgt sich vor einer Entwicklung wie in den USA, wo man nicht mehr um diese Systeme herumkommt: "Das Aufrüsten findet dort schon statt."

Den vollständigen Artikel "Aussortiert" lesen bei heise select (mit entsprechendem Zugang) und in der neuen Ausgabe 4/2022 von MIT Technology Review (im heise shop bestellbar und im Bahnhofsbuchhandel erhältlich).

(wst)