A munkáltató felel az AI-döntésekért: nem lehet a szoftvergyártóra mutogatni

A vállalatok attól tartva, hogy lemaradnak a versenyben, rohamtempóban vezetik be a mesterséges intelligenciát a munkahelyi döntéshozatalba. Az AI-eszközöket rutinszerűen használják jelentkezők szűrésére, állásinterjúk elemzésére, a produktivitás mérésére, valamint előléptetési vagy fegyelmi döntések előkészítésére. Tara Humma, a Rimon Law munkajogi partnere azonban arra figyelmeztet, hogy sok cégvezető tévesen azt feltételezi: a jogi kockázatokért a szoftver fejlesztője felel.

A szoftvergyártó nem mentesít a felelősség alól

Ahogy bármely más üzleti eszköz esetében, az AI-val támogatott döntésekért is a munkáltató viseli a felelősséget, még akkor is, ha a technológiát külső partnertől vásárolta vagy licencelte. Az amerikai szövetségi megközelítés az utóbbi időben változott: a korábbi szigorúbb iránymutatásokat visszavonták, és az adminisztráció kevésbé fókuszál a szándékolatlan diszkrimináció (úgynevezett „disparate impact”) hatósági üldözésére. Ez azonban nem jelenti azt, hogy a kockázatok megszűntek volna, mivel a bírósági ítéletek és a precedensjog továbbra is érvényben marad.

Szigorodó helyi szabályozás

Miközben a szövetségi szintű ellenőrzés enyhülhet, az egyes amerikai államok saját hatáskörben szigorítanak. Néhány példa a közelmúltból:

• Illinois: Megtiltotta az AI olyan használatát, amely védett tulajdonságok alapján diszkriminál, még ha ez nem is szándékos, és kötelezővé tette az AI-alkalmazás tényének közzétételét.
• New York City: Előírja a „bias audit”, azaz az elfogultsági vizsgálat elvégzését minden munkavállalási döntéshez használt AI-eszköz esetében.
• Egyéb államok: Számos helyen vezettek be vagy terveznek olyan korlátokat, amelyek védik a jelentkezőket a gépi algoritmusok igazságtalanságaitól.

Hogyan védekezhetnek a HR-vezetők?

A legnagyobb kockázatot az ismerethiány jelenti. Sok szervezet úgy használ AI-t, hogy nem tudja, milyen adatokon tanították a rendszert, figyelembe vesz-e közvetett módon védett tulajdonságokat, vagy hogy a döntési folyamat egyáltalán megmagyarázható-e. A bíróságok valószínűleg nem fogadják el védekezésként azt, ha a cég a szoftver készítőjére hárítja a felelősséget.

A szakértők azt javasolják, hogy a HR-csapatok mérjék fel, pontosan hol és hogyan használnak mesterséges intelligenciát a cégnél. Fontos megvizsgálni, hogy a vezetők vakon követik-e az algoritmus javaslatait, vagy fennmaradt-e a tényleges emberi felügyelet. Az auditok elvégzése és a folyamatok dokumentálása az egyik legerősebb védekezés lehet egy esetleges peres eljárás során, hiszen ezzel bizonyítható, hogy a munkáltató kontroll alatt tartja a technológiát.

Forrás: HR Dive