Felelős mesterséges intelligencia a HR-ben: így kezeld az algoritmus torzítását
Már hatályos az Európai Unió AI Actje, két év múlva a szabályszegőket bírságolják. Ebben az unió a magas kockázatú AI rendszerek esetében szigorú szabályokat fogalmazott meg. Hüvelykujjszabályként minden HR-rendszert magas kockázatúnak kell tekinteni. Hogyan lehet erre felkészülni? Miként biztosítsuk, hogy a mesterséges intelligencia a megfelelő adatokkal dolgozzon, ne diszkrimináljon például a toborzásban? Kadocsa Fanni (Hybridge Consulting) írása.
Az Egyesült Államok Foglalkoztatási Esélyegyenlőség Bizottsága (EEOC) 2023-ban pert indított egy korrepetáló cég ellen, mert kiderült, hogy az AI-alapú toborzási eszközük automatikusan elutasította az 55 év feletti nőket és a 60 év feletti férfiakat. A cég 365 000 dollárt fizetett a vádak rendezésére.
Noha az AI rendszerek számos lehetőséget kínálnak, ugyanakkor képesek a társadalmi egyenlőtlenségeket is állandósítani. Algoritmikus torzításnak azt nevezzük, amikoraz AI modellek negatívan diszkriminálnak egyes (jellemzően kisebbségi) társadalmi csoportokat: nőket, etnikai kisebbségeket, idősebb embereket és más marginalizált csoportokat.
Az algoritmikus torzítás elsődleges forrása gyakran az AI modellek betanítására használt adatokban rejlik. A mesterséges intelligencia historikus adatokból "tanul", és ha bizonyos csoportok túl- vagy alulreprezentáltak ezekben az adatokban, a modell ezeket a mintákat tanulja meg és ismétli. Például azok az arcfelismerő rendszerek, amelyek túlnyomórészt fehér arcokat tartalmaznak, rosszul ismerik fel a színesbőrű embereket. Hasonlóképpen, a hiányos vagy torz adatokkal kiképzett AI eszközök a toborzási folyamatban tisztességtelenül zárhatnak ki képzett jelentkezőket.
A torzítás magából az algoritmusból is eredhet. Például a toborzó algoritmusok előnyben részesíthetik azokat az önéletrajzokat, amelyek hagyományosan a férfiak sikereihez kapcsolódó kifejezéseket tartalmaznak, vagy azokat az iskolákat, ahol a magasabb társadalmi-gazdasági helyzetű fehér férfiak felülreprezentáltak. Ilyen volt az Amazon 2018-ban leállított jelöltszűrő rendszere, ami a nőkre nézve bizonyult diszkriminatívnak.
Ezen kockázatok mérséklése az adott cég érdeke és felelőssége. A felelős mesterséges intelligencia használat egy fontos prioritás kell legyen minden szervezet számára, amit csakegy jól koordinált, átgondolt MI-irányítási keretrendszerrel lehet biztosítani. Az AI governance a mesterséges intelligencia használatával kapcsolatos kulcs alapelveket és ezek nyomon követését jelenti a szervezeten belül. Az AI governance kritikus eleme a kockázatok, így az esetleges torzítások azonosítása és kezelése rendszeres kockázatértékelésekkel és auditokkal.
A 2024 augusztus 1-én életbe lépett EU AI Act a magas kockázatú AI rendszerek esetében szigorú szabályokat fogalmazott meg. Bár a büntetések csak 2026 augusztus 2-tól lépnek életbe, a megfelelést fokozatosan biztosítani kell. Hüvelykujjszabályként minden HR-rendszert magas kockázatúnak kell tekinteni.
Ezen MI rendszerek esetében rendszeresen értékelni kell az esetleges kockázatokat és azok megfelelő kezelését, valamint biztosítani kell az emberi felügyeletet mind a bemenő adatok, mind az algoritmus, mint a kimenő eredmények tekintetében. A nem megfelelés akár 20 millió euróig terjedő bírságot vagy a globális bevétel 4%-át is jelentheti, attól függően, hogy melyik a magasabb.
Mit tehetnek ma a HR csapatok a felkészülés érdekében?
A 2026-os határidő betartása érdekében az elsődleges feladat a HR csapatok AI- és adatkompetenciájának javítása. Fontos, hogy a HR szakemberek értsék a mesterséges intelligencia rendszerek fajtáit, működési elveit és az esetleges kockázati forrásokat. Természetesen ez nem azt jelenti, hogy MI-mérnökké vagy adattudóssá kell válni, de egy alap megértés szükséges ahhoz, hogy fel tudjuk mérni a feladatot és ki tudjuk választani a megfelelő szakembert annak elvégzésére.
Megfelelő adatok és adatok által támogatott folyamatok nélkül szintén nehéz lesz hatékonyan kezelni a mesterséges intelligenciát. Az MI alapja az adatalapú döntéstámogatás. Ahhoz, hogy az emberi felügyelet biztosítva legyen, fontos az adatok rendbetétele és az adat-vezérelt döntéshozatal kialakítása.
Hol érdemes kezdeni?
1. A jelenleg használt AI-rendszerek esetében készítsünk leltárat a HR-en belül. Gyűjtsük össze a stakeholdereket és vizsgáljuk meg a potenciális káros hatásokat, amelyek a tréning adatokból, az algoritmusból vagy a rendszer kimenetének felhasználásából származhatnak.
2. Készítsünk leltárt a tervezett MI beruházásokról az AI roadmap alapján vagy ennek hiányában, azonosítsuk azokat a területeket, ahol az MI megoldások jelenlegi kihívásokat oldhatnak meg. Például amennyiben az egyik legidőrablóbb tevékenység a toborzás kapcsán a jelöltek önéletrajzainak szűrése, érdemes egy önéletrajzszűrő megoldást megfontolni.
3. Koncentráljunk először a strukturált adatokra: gyűjtsük össze és tisztítsuk meg a strukturált adatokat, amelyek az adott területen relevánsak. A jó minőségű adat az MI rendszerek hatékonyságának alapja. Például, mielőtt egy önéletrajz-szűrő eszközt használnánk, fontos megérteni, hogy adott pozícióban általában mitől függ a magas teljesítmény. Ezután gyűjtsük össze és tisztítsuk meg az ezzel kapcsolatos adatokat (azaz kezeljük a szélsőséges adatokat, a duplikációkat, a hiányzó adatokat stb.).
4. Alakítsunk ki megfelelő data governance (adatirányítási) gyakorlatokat az adatok pontosságának, következetességének és megfelelőségének biztosítása érdekében. Az adatirányítás biztosítja, hogy a szervezetben az adatok megfelelően legyenek kezelve, a GDPR követelményeivel összhangban.
5. Kezdjük egyszerű elemzésekkel: mint dashboardok, gyökérokok és a toborzási pipeline elemzése. Alakítsunk ki egy megfelelő ritmust, amikor ezeket a riportokat frissítjük, áttekintjük.
6. Ne feledkezzünk meg a strukturálatlan adatokról. A torzítások gyakran a strukturálatlan adatokban, például e-mailekben, dokumentumokban és chat logokban rejtőznek. Ezeket az adatokat gyakran használják MI modellek, például chatbotok betanítására.
Az MI óriási potenciállal bír mindkét oldalon, azaz használata számos előnnyel jár, de egyben nagyon nagy károkat is képest okozni. Ahogy az MI rendszerek egyre inkább átszővi az életünket, a mi felelősségünk biztosítani, hogy etikus és felelősségteljes módon használjuk őket.
Az EU MI rendeletével ez a felelősség hamarosan jogi kötelezettséggé válik. Bár a határidő több mint egy évre van, jelentős mennyiségű munka áll még előttünk. Fontos időben kezdeni, mert az MI rendszerek összetettek, a kockázatok felmérése és mérséklése sokszor időigényes. A szervezeteknek most kell lefektetni az erős alapokat, hogy jól felkészüljenek a 2026-os határidőre.A HR-nek, mint a magas kockázatú MI rendszerek üzemeltetőjének ebben óriási szerepe és felelőssége van.
A szerzőről
Kadocsa Fanni (a nyitóképen) a Hybridge Consulting alapítója, amely budapesti székhelyű HR tanácsadó cégként támogatja a HR csapatokat az AI transzformáció során. Fanni szakterülete az adatelemzés, adatkezelés és a szabályozói megfelelés, különös tekintettel az EU AI Act előírásaira, amelyek 2026-ban lépnek hatályba. Célja a HR csapatok támogatása a HR stratégia átalakításában, hogy azok megfeleljenek a mesterséges intelligencia kihívásainak. Jelenleg az algoritmikus torzítások auditor programban és az ISO 42001 szabvány szerinti auditor képzésén vesz részt, elkötelezetten dolgozik a felelős AI használatának elterjesztésén a HR területén. Rendszeres szerzője AI és HR témájú szakmai publikációknak, és elhivatottan segíti a HR vezetőket abban, hogy az AI lehetőségeit etikusan és szabályozott keretek között aknázzák ki.
- 2024.12.10Munkajog képzés HR-eseknek Munkajog képzés HR-eseknek érthetően. 2 napos intenzív, átfogó kurzus a Munka törvénykönyvéről. Gyakorló munkajogász oktatóink segítenek értelmezni az Mt. szabályait a saját praxisukból hozott példák segítségével, továbbá tanácsokkal látják el a résztvevőket munkajogi kérdéseikben. Oktatók: DR. FODOR T. GÁBOR és DR. NYERGES ÉVA Részletek Jegyek
- 2024.12.10Compliance szituációk kezelése Szeretné Compliance folyamatait megfelelően kezelni? Szervezete nagy hangsúlyt fektet az átláthatóságra? Képzésünkön áttekintjük mi a HR és a cégvezető hatásköre ezekben a szituációkban. Részletek Jegyek
- 2024.12.122024.12.12 Díjmentes Vezetői Egynapos programok Díjmentes Vezetői Egynapos programsorozatunkat a nagy érdeklődésre való tekintettel folytatjuk. Képzéseinken szemléletet, azonnal alkalmazható tudást adunk, módszereket és gyakorlatok próbálhatnak ki a résztvevők, mindezt teljesen díjmentesen. A nyílt programokat olyan vezetőknek, munkavállalóknak ajánljuk, akik szeretnék bővíteni tudásukat és látásmódjukat. A képzések különlegessége, hogy bármelyik téma vállalati képzés formájában is megvalósítható, melyre támogatás igényelhető a GINOP PLUSZ-3.2.1-21 pályázati alapból. Pályázati forródrót: +36 20 338 3808 Részletek Jegyek
- 2024.12.31Gazdasági teljesítmény mérése - E-learning és konzultáció Ajánljuk mindazoknak, akik gazdasági területen dolgoznak vagy ezzel ismerkednek, és érdeklődnek a számvitel által nyújtott lehetőségek iránt. Továbbá azon controllerek, vezetők számára, akik döntés előkészítésben vesznek részt, és szeretnék átlátni a beszámolók által kínált mutatószámok jelentőségét, szerepét. Részletek Jegyek
A jogszabályok gyakori változása, a szaktudás hiánya, kieső munkaerő pótlása mind elvezethet bizonyos folyamatok kiszervezésének (outsorcing)... Teljes cikk
Napi közel 4 órát tesz ki Magyarországon egy személyre bontva a láthatatlan munka. Olyan jellemzően házi, ház körüli munka, amiért nem fizetünk.... Teljes cikk
Sok vállalat számára még ismeretlen fogalom az RPO, azaz a Recruitment Process Outsourcing. Ez a HR folyamatok kiszervezésének egy olyan speciális... Teljes cikk
- A dolgozók több mint fele szerint az AI új munkahelyeket teremthet 2 hete
- Nagy bírság lehet belőle, ha titokban használja a cég az AI-t a toborzásban 2 hete
- "Óriási mennyiségű megoldás keresi a problémákat" - hogy formálja át a világot az AI? 3 hete
- Így forgatja fel a mesterséges intelligencia a toborzást: jelentés az Unleash-ről 1 hónapja
- Nem félnek a trénerek a mesterséges intelligenciától 1 hónapja
- "Mire befejeztem a reggelit, már 12 állásra jelentkeztem" - nem sci-fi, valóság 1 hónapja
- Miért lehet nyerő a gamifikáció munkahelyi környezetben? 1 hónapja
- Visszaszorul a home office, hízik a munkaerő és az AI mindent visz - így látják a jövőt a cégvezetők 2 hónapja
- Az AI és a személyre szabott munkaélmény elégedettebbé teszi a dolgozókat 2 hónapja
- Zsákutcába kerülhet az AI? 2 hónapja
- Félnek az AI-tól a kisvállalkozások, pedig látják benne a lehetőséget 2 hónapja