Hibázik az AI alapú toborzás is - könnyen kerülhetnek süllyesztőbe a legjobb jelöltek

Testbeszéd-elemzés, hang-alapú értékelés, gamifikációs tesztek, önéletrajz-szűrők – íme néhány azok közül az eszközök közül, amelyeket a vállalatok a jelöltek szűrésére használnak a mesterséges intelligenciával működő toborzószoftverek által. Az álláskeresők alávetik magukat a gépi instrukcióknak, a mesterséges intelligencia pedig eldönti, hogy megfelelnek-e vagy sem - írja a bbc.com. 

A trend fokozódni látszik: az IBM több mint 8500 globális IT-szakember körében végzett, 2023 végén készült felmérése szerint a vállalatok 42%-a használ mesterséges intelligenciával történő szűrést a toborzás és a munkaerő-fejlesztés javítására. A válaszadók további 40%-a fontolgatta a technológia alkalmazását.

A vállalati világ számos vezetője hisz abban, hogy a mesterséges intelligenciával működő toborzási technológia véget vet az előítéletekkel bélelt felvételi folyamatoknak. Néhány esetben azonban ennek éppen az ellenkezője történik. Egyes szakértők szerint ezek az eszközök a potenciálisan legjobb jelentkezőket is kiszűrhetik, hiányzik ugyanis az emberi tényező.

"Nem sok bizonyítékot láttunk arra, hogy itt nincs elfogultság... vagy, hogy az eszköz a legképzettebb jelölteket választja ki" - mondja Hilke Schellmann, az Algorithm: How AI Can Hijack Your Career and Steal Your Future (Algoritmus: Hogyan rabolja el a munkádat és lopja el jövődet a MI?) című könyv szerzője, és a New York-i Egyetem újságírás tanszékének adjunktusa. Úgy véli, nem az jelenti a legnagyobb kockázatot a mesterséges intelligencia munkaerőpiacra gyakorolt hatásában, hogy a gépek elveszik a humán erőforrás munkahelyeit, hanem, hogy egyáltalán esélyt kapnak-e rá a potenciális álláskeresők, hogy bizonyítsanak.

Mi van, ha nem tetszik az arcod?

Egy 2020-as, nagy nyilvánosságot kapott ügy során Anthea Mairoudhiou, Egyesült Királyságban élő sminkesnek újra kellett jelentkeznie az állásra, melyet a világjárvány miatt elvesztett. A felvételin a korábbi teljesítménye alapján és a HireVue nevű mesterséges intelligencia-szűrő programon keresztül is értékelték. Azt mondja, a készségértékelésen jól szerepelt, de miután a mesterséges intelligencia eszköz a testbeszéde alapján rossz értékelést adott neki, végleg elvesztette az állását. (A szóban forgó cég, a HireVue 2021-ben megszüntette az arcelemző funkcióját). Schellmann szerint más munkavállalók is panaszt tettek hasonló platformok ellen.

Hozzáteszi, hogy a pályázók gyakran tudomást sem szereznek róla, hogy a vállalatok kizárólag ezen eszközök alapján utasítják-e el őket - általában nem közlik a jelöltekkel, hogyan is történt az értékelésük. Mégis azt mondja, hogy sok kirívó példa van a rendszerszintű hibákra.

Az algoritmus titkai

Egy másik esetben egy álláskereső, akit egyszer már elutasítottak, még egyszer jelentkezett az állásra a születési dátuma megváltoztatásával, és fiatalabbnak mutatva magát elnyerte a pozíciót. Egy vállalatnál egy mesterséges intelligenciával működő önéletrajzszűrő programot a cégnél dolgozó, jól teljesítő alkalmazottak önéletrajzai alapján tanítottak be, mely ez alapján többletpontokat adott, ha baseball vagy kosárlabda volt a jelölt hobbija. Ezek a hobbik ugyanis a „bevált” alkalmazottakat jellemezték az önéletrajzadatok alapján.  A másfajta hobbit űző jelölteket - jellemzően nőket -, a szoftverek ezért leminősítettek.

Schellmann szerint "a marginalizált csoportok gyakran kiesnek a rostán, mert más a hobbijuk, más iskolába jártak".

Egyes esetekben az előítéletes kiválasztási kritériumok egyértelműek - mint például az életkor- vagy a szexizmus -, más esetekben azonban átláthatatlanok. Vizsgálata során Schellmann egy call center munkájára jelentkezett, amelyet mesterséges intelligencia segítségével szűrtek. Ezután bejelentkezett a munkáltató oldaláról, és elemezte az értékelését. Az interjún magas minősítést kapott, annak ellenére, hogy értelmetlenül beszélt németül, amikor angolul kellett volna beszélnie, a LinkedIn-profilján található releváns referenciáira viszont gyenge minősítést kapott.

Schellmann aggódik, hogy a negatív hatások a technológia terjedésével együtt terjednek majd. "Egyetlen előítéletes hús-vér felvételi menedzser egy év alatt rengeteg embernek árthat, és ez nem jó" - mondja. "Egy algoritmus, amelyet egy nagyvállalatnál talán az összes beérkező pályázatra használnak, több százezer pályázó életében tehet kárt."

Mit kellene megjavítani? Hol van az igazság és egyenlőség gomb?

"A probléma az, hogy senki sem tudja pontosan, hol van a probléma" - magyarázza. Mivel a vállalatok pénzt takarítottak meg azzal, hogy a HR-szakembereket mesterséges intelligenciával helyettesítették - amely az idő töredéke alatt képes feldolgozni az önéletrajzok óriási halmazát -, úgy véli, hogy a cégeknek nem sok motivációjuk van arra, hogy a gépben lévő hibákat vizsgálják és javítani próbálják.

Kutatásai alapján Schellmann aggódik amiatt is, hogy a szűrőszoftvereket gyártó cégek a kereslet kihasználása érdekében elmaradott, sőt hibás termékeket dobnak piacra. "A gyártók nem fognak nyilvánosan előállni azzal, hogy az eszközünk nem jól működött.”

Sandra Wachter, az Oxfordi Egyetem Internet Intézetének technológiai és szabályozási professzora szerint "az elfogulatlan és tisztességes mesterséges intelligencia nemcsak etikai és jogi szempontból fontos, hanem a vállalatot teljesítményére is hatással van" - mondja. "Meg kell találni azokat a lehetőségeket az AI alkalmazása során, hogy a gép igazságosabb és méltányosabb döntéseket hozzon, amelyek az érdemeken alapulnak, és amelyek egyúttal a vállalat hatékonyságát is növelik."

Wachter azon dolgozik, hogy segítse a vállalatokat az előítéletek azonosításában egy bárki számára elérhető eszközzel (Conditional Demographic Disparity), amely "riasztórendszerként működik és jelzi, ha az algoritmusod elfogult és lehetővé teszi, hogy a rendszered igazságosabbá és pontosabbá váljon" - mondja. A 2020-as kifejlesztése óta többek között az Amazon és az IBM is bevezette ezt a tesztet.

Schellmann eközben iparági szintű szabályozást sürget a kormányok és nonprofit szervezetek részéről, hogy a jelenlegi problémák ne legyenek hosszú életűek. Attól tart, ha most nem avatkozunk közbe, akkor az AI a jövő munkahelyét a korábbinál is egyenlőtlenebbé teheti.

10 perc után tudják, ha valakinek mentális problémája van - hol lesz a határa a virtuális asszisztensek képességeinek? - olvassa el korábbi cikkünk!