kapubanner for mobile
Megjelent: 2 hónapja

Hibázik az AI alapú toborzás is - könnyen kerülhetnek süllyesztőbe a legjobb jelöltek

A mesterséges intelligencia (AI) alapú toborzási szoftverek miatt sok potenciális jelölt is kieshet a rostán a kiválasztás folyamata során. Sok kirívó példa van rendszerszintű hibákra. A jelenség azért is érdemel figyelmet, mert míg egy nem túl kompetens toborzó munkatárs jó esetben csupán pár száz ember jövőjét téríti rossz irányba, egy algoritmus több százezer pályázó életében tehet kárt, a cég teljesítményéről nem is beszélve - hívja fel a figyelmet a bbc.com cikke.

AI alapú toborzás: sok példa van rendszerszintű hibákra-

Testbeszéd-elemzés, hang-alapú értékelés, gamifikációs tesztek, önéletrajz-szűrők – íme néhány azok közül az eszközök közül, amelyeket a vállalatok a jelöltek szűrésére használnak a mesterséges intelligenciával működő toborzószoftverek által. Az álláskeresők alávetik magukat a gépi instrukcióknak, a mesterséges intelligencia pedig eldönti, hogy megfelelnek-e vagy sem - írja a bbc.com

A trend fokozódni látszik: az IBM több mint 8500 globális IT-szakember körében végzett, 2023 végén készült felmérése szerint a vállalatok 42%-a használ mesterséges intelligenciával történő szűrést a toborzás és a munkaerő-fejlesztés javítására. A válaszadók további 40%-a fontolgatta a technológia alkalmazását.

A vállalati világ számos vezetője hisz abban, hogy a mesterséges intelligenciával működő toborzási technológia véget vet az előítéletekkel bélelt felvételi folyamatoknak. Néhány esetben azonban ennek éppen az ellenkezője történik. Egyes szakértők szerint ezek az eszközök a potenciálisan legjobb jelentkezőket is kiszűrhetik, hiányzik ugyanis az emberi tényező.

"Nem sok bizonyítékot láttunk arra, hogy itt nincs elfogultság... vagy, hogy az eszköz a legképzettebb jelölteket választja ki" - mondja Hilke Schellmann, az Algorithm: How AI Can Hijack Your Career and Steal Your Future (Algoritmus: Hogyan rabolja el a munkádat és lopja el jövődet a MI?) című könyv szerzője, és a New York-i Egyetem újságírás tanszékének adjunktusa. Úgy véli, nem az jelenti a legnagyobb kockázatot a mesterséges intelligencia munkaerőpiacra gyakorolt hatásában, hogy a gépek elveszik a humán erőforrás munkahelyeit, hanem, hogy egyáltalán esélyt kapnak-e rá a potenciális álláskeresők, hogy bizonyítsanak.

Mi van, ha nem tetszik az arcod?

Egy 2020-as, nagy nyilvánosságot kapott ügy során Anthea Mairoudhiou, Egyesült Királyságban élő sminkesnek újra kellett jelentkeznie az állásra, melyet a világjárvány miatt elvesztett. A felvételin a korábbi teljesítménye alapján és a HireVue nevű mesterséges intelligencia-szűrő programon keresztül is értékelték. Azt mondja, a készségértékelésen jól szerepelt, de miután a mesterséges intelligencia eszköz a testbeszéde alapján rossz értékelést adott neki, végleg elvesztette az állását. (A szóban forgó cég, a HireVue 2021-ben megszüntette az arcelemző funkcióját). Schellmann szerint más munkavállalók is panaszt tettek hasonló platformok ellen.

Hozzáteszi, hogy a pályázók gyakran tudomást sem szereznek róla, hogy a vállalatok kizárólag ezen eszközök alapján utasítják-e el őket - általában nem közlik a jelöltekkel, hogyan is történt az értékelésük. Mégis azt mondja, hogy sok kirívó példa van a rendszerszintű hibákra.

Az algoritmus titkai

Egy másik esetben egy álláskereső, akit egyszer már elutasítottak, még egyszer jelentkezett az állásra a születési dátuma megváltoztatásával, és fiatalabbnak mutatva magát elnyerte a pozíciót. Egy vállalatnál egy mesterséges intelligenciával működő önéletrajzszűrő programot a cégnél dolgozó, jól teljesítő alkalmazottak önéletrajzai alapján tanítottak be, mely ez alapján többletpontokat adott, ha baseball vagy kosárlabda volt a jelölt hobbija. Ezek a hobbik ugyanis a „bevált” alkalmazottakat jellemezték az önéletrajzadatok alapján.  A másfajta hobbit űző jelölteket - jellemzően nőket -, a szoftverek ezért leminősítettek.

Schellmann szerint "a marginalizált csoportok gyakran kiesnek a rostán, mert más a hobbijuk, más iskolába jártak".

Egyes esetekben az előítéletes kiválasztási kritériumok egyértelműek - mint például az életkor- vagy a szexizmus -, más esetekben azonban átláthatatlanok. Vizsgálata során Schellmann egy call center munkájára jelentkezett, amelyet mesterséges intelligencia segítségével szűrtek. Ezután bejelentkezett a munkáltató oldaláról, és elemezte az értékelését. Az interjún magas minősítést kapott, annak ellenére, hogy értelmetlenül beszélt németül, amikor angolul kellett volna beszélnie, a LinkedIn-profilján található releváns referenciáira viszont gyenge minősítést kapott.

Schellmann aggódik, hogy a negatív hatások a technológia terjedésével együtt terjednek majd. "Egyetlen előítéletes hús-vér felvételi menedzser egy év alatt rengeteg embernek árthat, és ez nem jó" - mondja. "Egy algoritmus, amelyet egy nagyvállalatnál talán az összes beérkező pályázatra használnak, több százezer pályázó életében tehet kárt."

Mit kellene megjavítani? Hol van az igazság és egyenlőség gomb?

"A probléma az, hogy senki sem tudja pontosan, hol van a probléma" - magyarázza. Mivel a vállalatok pénzt takarítottak meg azzal, hogy a HR-szakembereket mesterséges intelligenciával helyettesítették - amely az idő töredéke alatt képes feldolgozni az önéletrajzok óriási halmazát -, úgy véli, hogy a cégeknek nem sok motivációjuk van arra, hogy a gépben lévő hibákat vizsgálják és javítani próbálják.

Kutatásai alapján Schellmann aggódik amiatt is, hogy a szűrőszoftvereket gyártó cégek a kereslet kihasználása érdekében elmaradott, sőt hibás termékeket dobnak piacra. "A gyártók nem fognak nyilvánosan előállni azzal, hogy az eszközünk nem jól működött.”

Sandra Wachter, az Oxfordi Egyetem Internet Intézetének technológiai és szabályozási professzora szerint "az elfogulatlan és tisztességes mesterséges intelligencia nemcsak etikai és jogi szempontból fontos, hanem a vállalatot teljesítményére is hatással van" - mondja. "Meg kell találni azokat a lehetőségeket az AI alkalmazása során, hogy a gép igazságosabb és méltányosabb döntéseket hozzon, amelyek az érdemeken alapulnak, és amelyek egyúttal a vállalat hatékonyságát is növelik."

Wachter azon dolgozik, hogy segítse a vállalatokat az előítéletek azonosításában egy bárki számára elérhető eszközzel (Conditional Demographic Disparity), amely "riasztórendszerként működik és jelzi, ha az algoritmusod elfogult és lehetővé teszi, hogy a rendszered igazságosabbá és pontosabbá váljon" - mondja. A 2020-as kifejlesztése óta többek között az Amazon és az IBM is bevezette ezt a tesztet.

Schellmann eközben iparági szintű szabályozást sürget a kormányok és nonprofit szervezetek részéről, hogy a jelenlegi problémák ne legyenek hosszú életűek. Attól tart, ha most nem avatkozunk közbe, akkor az AI a jövő munkahelyét a korábbinál is egyenlőtlenebbé teheti.

10 perc után tudják, ha valakinek mentális problémája van - hol lesz a határa a virtuális asszisztensek képességeinek? - olvassa el korábbi cikkünk!

  • 2024.04.23Humán controlling mutatószámok a gyakorlatban A képzés célja: A HR munka modern személetének és mérésének, számításának gyakorlati ismerete. A humán controlling egyes eszközeit konkrét példákon mutatjuk be, a résztvevőkkel közösen értékeljük azok alkalmazását.info button Részletek ticket button Jegyek
  • 2024.04.30NewLeadership – Vezetői eszköztár bővítése Önmaguk fejlesztését is fontosnak tartó középvezetőknek, frissen kinevezett döntéshozóknak szóló komplex és intenzív vezetőfejlesztő program sok gyakorlattal. Különlegessége, hogy a résztvevők átgondolhatják és megoszthatják egymással aktuális kihívásaikat és még a kritikus vezetői helyzetek megoldásáról is tanulhatnak egymás jó gyakorlatából is!info button Részletek ticket button Jegyek
  • 2024.05.09Egy jól működő csapat titka – Vezetői reziliencia fejlesztése A vezetői reziliencia fejlesztése képzésünk arra világít rá, hogyan lehet úgy tekinteni a tényekre, hogy relativizáljuk őket, kezelhető megvilágításba helyezzük a nehézségeket és igyekezzünk megőrizni a racionalitásunkat, hogy ebben a nehéz helyzetben is fejlődni tudjon a csapatunk. Segítve a csapattagoknak abban, hogy a problémalátásukat a megoldás keresés fókusza váltsa fel és megváltozzon az interakcióik minősége.info button Részletek ticket button Jegyek
  • 2024.05.14Mesterséges intelligencia használata a marketing munkában Képzésünk célja, hogy bemutassuk 2024-ben mi mindenre képes a mesterséges intelligencia, használata mennyire meg tudja könnyíteni a marketing szakemberek - vagy erre a pályára készülők - munkáját. A képzés során a résztvevő megtanulja, hogy milyen kiaknázatlan lehetőségek rejlenek a mesterséges intelligenciában. Ezen túl megtanulja, hogy a különböző AI eszközöket milyen stratégiai kombinációban érdemes használni a lehető legnagyobb hatékonyság elérése érdekében. info button Részletek ticket button Jegyek
További cikkek
Így áll a munkaerőpiac 2024-ben: hány jelentkezést nyújt be egy átlagos álláskereső?

A jelentkezők többsége legalább kettő, de maximum öt helyre adja be egyszerre az önéletrajzát – többek között ez derült ki az 55. Műegyetemi... Teljes cikk

Égető dilemma: honnan lesz 300 ezer új munkavállaló Magyarországon?

Ambiciózus célt tűzött ki maga elé a kormány: 2030-ra 85%-ra szeretnék emelni a magyarországi foglalkoztatottsági rátát. Ehhez főleg a 15-29 éves... Teljes cikk

Hibázik az AI alapú toborzás is - könnyen kerülhetnek süllyesztőbe a legjobb jelöltek

A mesterséges intelligencia (AI) alapú toborzási szoftverek miatt sok potenciális jelölt is kieshet a rostán a kiválasztás folyamata során. Sok... Teljes cikk