Felelős mesterséges intelligencia a HR-ben: így kezeld az algoritmus torzítását

Az Egyesült Államok Foglalkoztatási Esélyegyenlőség Bizottsága (EEOC) 2023-ban pert indított egy korrepetáló cég ellen, mert kiderült, hogy az AI-alapú toborzási eszközük automatikusan elutasította az 55 év feletti nőket és a 60 év feletti férfiakat. A cég 365 000 dollárt fizetett a vádak rendezésére.

Noha az AI rendszerek számos lehetőséget kínálnak, ugyanakkor képesek a társadalmi egyenlőtlenségeket is állandósítani. Algoritmikus torzításnak azt nevezzük, amikoraz AI modellek negatívan diszkriminálnak egyes (jellemzően kisebbségi) társadalmi csoportokat: nőket, etnikai kisebbségeket, idősebb embereket és más marginalizált csoportokat.  
 
Az algoritmikus torzítás elsődleges forrása gyakran az AI modellek betanítására használt adatokban rejlik. A mesterséges intelligencia historikus adatokból "tanul", és ha bizonyos csoportok túl- vagy alulreprezentáltak ezekben az adatokban, a modell ezeket a mintákat tanulja meg és ismétli. Például azok az arcfelismerő rendszerek, amelyek túlnyomórészt fehér arcokat tartalmaznak, rosszul ismerik fel a színesbőrű embereket. Hasonlóképpen, a hiányos vagy torz adatokkal kiképzett AI eszközök a toborzási folyamatban tisztességtelenül zárhatnak ki képzett jelentkezőket.
 
A torzítás magából az algoritmusból is eredhet. Például a toborzó algoritmusok előnyben részesíthetik azokat az önéletrajzokat, amelyek hagyományosan a férfiak sikereihez kapcsolódó kifejezéseket tartalmaznak, vagy azokat az iskolákat, ahol a magasabb társadalmi-gazdasági helyzetű fehér férfiak felülreprezentáltak. Ilyen volt az Amazon 2018-ban leállított jelöltszűrő rendszere, ami a nőkre nézve bizonyult diszkriminatívnak.
 
Ezen kockázatok mérséklése az adott cég érdeke és felelőssége. A felelős mesterséges intelligencia használat egy fontos prioritás kell legyen minden szervezet számára, amit csakegy jól koordinált, átgondolt MI-irányítási keretrendszerrel lehet biztosítani. Az AI governance a mesterséges intelligencia használatával kapcsolatos kulcs alapelveket és ezek nyomon követését jelenti a szervezeten belül. Az AI governance kritikus eleme a kockázatok, így az esetleges torzítások azonosítása és kezelése rendszeres kockázatértékelésekkel és auditokkal.
 
A 2024 augusztus 1-én életbe lépett EU AI Act a magas kockázatú AI rendszerek esetében szigorú szabályokat fogalmazott meg. Bár a büntetések csak 2026 augusztus 2-tól lépnek életbe, a megfelelést fokozatosan biztosítani kell. Hüvelykujjszabályként minden HR-rendszert magas kockázatúnak kell tekinteni.
 
Ezen MI rendszerek esetében rendszeresen értékelni kell az esetleges kockázatokat és azok megfelelő kezelését, valamint biztosítani kell az emberi felügyeletet mind a bemenő adatok, mind az algoritmus, mint a kimenő eredmények tekintetében. A nem megfelelés akár 20 millió euróig terjedő bírságot vagy a globális bevétel 4%-át is jelentheti, attól függően, hogy melyik a magasabb.

Mit tehetnek ma a HR csapatok a felkészülés érdekében?

A 2026-os határidő betartása érdekében az elsődleges feladat a HR csapatok AI- és adatkompetenciájának javítása. Fontos, hogy a HR szakemberek értsék a mesterséges intelligencia rendszerek fajtáit, működési elveit és az esetleges kockázati forrásokat. Természetesen ez nem azt jelenti, hogy MI-mérnökké vagy adattudóssá kell válni, de egy alap megértés szükséges ahhoz, hogy fel tudjuk mérni a feladatot és ki tudjuk választani a megfelelő szakembert annak elvégzésére.
 
Megfelelő adatok és adatok által támogatott folyamatok nélkül szintén nehéz lesz hatékonyan kezelni a mesterséges intelligenciát. Az MI alapja az adatalapú döntéstámogatás. Ahhoz, hogy az emberi felügyelet biztosítva legyen, fontos az adatok rendbetétele és az adat-vezérelt döntéshozatal kialakítása.

Hol érdemes kezdeni?

 
    1. A jelenleg használt AI-rendszerek esetében készítsünk leltárat a HR-en belül. Gyűjtsük össze a stakeholdereket és vizsgáljuk meg a potenciális káros hatásokat, amelyek a tréning adatokból, az algoritmusból vagy a rendszer kimenetének felhasználásából származhatnak.

    2. Készítsünk leltárt a tervezett MI beruházásokról az AI roadmap alapján vagy ennek hiányában, azonosítsuk azokat a területeket, ahol az MI megoldások jelenlegi kihívásokat oldhatnak meg. Például amennyiben az egyik legidőrablóbb tevékenység a toborzás kapcsán a jelöltek önéletrajzainak szűrése, érdemes egy önéletrajzszűrő megoldást megfontolni.

    3. Koncentráljunk először a strukturált adatokra: gyűjtsük össze és tisztítsuk meg a strukturált adatokat, amelyek az adott területen relevánsak. A jó minőségű adat az MI rendszerek hatékonyságának alapja. Például, mielőtt egy önéletrajz-szűrő eszközt használnánk, fontos megérteni, hogy adott pozícióban általában mitől függ a magas teljesítmény. Ezután gyűjtsük össze és tisztítsuk meg az ezzel kapcsolatos adatokat (azaz kezeljük a szélsőséges adatokat, a duplikációkat, a hiányzó adatokat stb.).

    4. Alakítsunk ki megfelelő data governance (adatirányítási) gyakorlatokat az adatok pontosságának, következetességének és megfelelőségének biztosítása érdekében. Az adatirányítás biztosítja, hogy a szervezetben az adatok megfelelően legyenek kezelve, a GDPR követelményeivel összhangban.

    5. Kezdjük egyszerű elemzésekkel: mint dashboardok, gyökérokok és a toborzási pipeline elemzése. Alakítsunk ki egy megfelelő ritmust, amikor ezeket a riportokat frissítjük, áttekintjük.

    6. Ne feledkezzünk meg a strukturálatlan adatokról. A torzítások gyakran a strukturálatlan adatokban, például e-mailekben, dokumentumokban és chat logokban rejtőznek. Ezeket az adatokat gyakran használják MI modellek, például chatbotok betanítására.
 
Az MI óriási potenciállal bír mindkét oldalon, azaz használata számos előnnyel jár, de egyben nagyon nagy károkat is képest okozni. Ahogy az MI rendszerek egyre inkább átszővi az életünket, a mi felelősségünk biztosítani, hogy etikus és felelősségteljes módon használjuk őket.
 
Az EU MI rendeletével ez a felelősség hamarosan jogi kötelezettséggé válik. Bár a határidő több mint egy évre van, jelentős mennyiségű munka áll még előttünk. Fontos időben kezdeni, mert az MI rendszerek összetettek, a kockázatok felmérése és mérséklése sokszor időigényes. A szervezeteknek most kell lefektetni az erős alapokat, hogy jól felkészüljenek a 2026-os határidőre.A HR-nek, mint a magas kockázatú MI rendszerek üzemeltetőjének ebben óriási szerepe és felelőssége van.

A szerzőről

Kadocsa Fanni (a nyitóképen) a Hybridge Consulting alapítója, amely budapesti székhelyű HR tanácsadó cégként támogatja a HR csapatokat az AI transzformáció során. Fanni szakterülete az adatelemzés, adatkezelés és a szabályozói megfelelés, különös tekintettel az EU AI Act előírásaira, amelyek 2026-ban lépnek hatályba. Célja a HR csapatok támogatása a HR stratégia átalakításában, hogy azok megfeleljenek a mesterséges intelligencia kihívásainak. Jelenleg az algoritmikus torzítások auditor programban és az ISO 42001 szabvány szerinti auditor képzésén vesz részt, elkötelezetten dolgozik a felelős AI használatának elterjesztésén a HR területén. Rendszeres szerzője AI és HR témájú szakmai publikációknak, és elhivatottan segíti a HR vezetőket abban, hogy az AI lehetőségeit etikusan és szabályozott keretek között aknázzák ki.