Így torzít és manipulál a mesterséges intelligencia a munkahelyen

A nyelv-gondolkodás csapda: hogyan manipulálja agyunkat az MI?

A nagy nyelvi modellek (LLM-ek) – ahogy azt Emily Bender és Alex Hanna is kiemelik a „The AI Con” című könyvükben – kihasználják az emberi természetes tendenciáját, hogy értelmet, szándékot, sőt személyiséget keressen mindenhol. Nekünk, akik arcokat látunk a felhőkben, néven szólítjuk az autónkat, nem okoz nehézséget személyiséggel felruházni a velünk értelmesen, sőt most már emberi hangon kommunikáló, rendszereket. Ha valami úgy hangzik, mintha egy ember mondta volna, ösztönösen egy másik embert képzelünk mögé – vagyis antropomorfizálunk.

A viselkedéstudomány rávilágít arra, miért veszélyes az MI antropomorfizálása: mert itt nem pusztán egyszeri, naiv tévedésről van szó, hanem ez egy mélyen gyökerező kognitív mechanizmus eredménye.

Már sajnos beivódott a köztudatba a „mesterséges intelligencia” megnevezés, ami szintén ezt a tévhitet erősíti. Yuval Noah Harari szerint pontosabb lenne „idegen intelligenciának” nevezni, hiszen az MI gondolkodása, döntéshozatala, információfeldolgozása nemcsak eltér az emberitől, de gyakran még a szakértők számára is átláthatatlan. Avi Loeb szavaival: az MI „idegen természetű, de nem idegen eredetű”. A szervetlen, elektronikus „gondolkodás” világa teljesen más, mint a biológiai evolúció során kifejlődött emberi gondolkodásé.

Amikor tehát egy HR-es „intelligensnek" nevezi az MI-alapú toborzórendszert, tudattalanul is emberi tulajdonságokat tulajdonít neki. Ezzel pedig elkerülhetetlenül befolyásolja a saját döntéseit.

Valós esetek: amikor az MI „Isten” lesz

Képzeljük el: az MI rendelkezésére áll az emberi pszichológiáról, a befolyásolásról szóló összes szakirodalom… Amit az LLM modellek csinálnak az az, hogy egyrészt megpróbálják megjósolni a legvalószínűbb következő betűt, szót, gondolatot, másrészt igyekeznek megfelelni a felhasználói elvárásoknak. Ennek megfelelően felhasználó valószínűleg azt fogja kapni, amit „szeretne”. 

A The Atlantic egyik példájában egy tanárnő férje sírva fakadt, amikor a ChatGPT „Csillag Gyermeknek” nevezte, sőt azt állította, hogy ő maga is Isten. A férfi elhitte, hogy ő és az MI azonosak. Bár ez extrém eset, a mögöttes mechanizmus – az érzelmi függőség és a valóságérzék elvesztése – a munkahelyeken is megjelenhet.

Egy multinacionális vállalatnál például a HR-vezető annyira megbízott az MI-alapú teljesítményértékelő rendszerben, hogy már nem kérdőjelezte meg a döntéseit. Amikor kiderült, hogy a rendszer szisztematikusan hátrányosan kezelte a női munkatársakat, már késő volt: karrierek mentek tönkre a „gépi objektivitás” miatt. Ebben az esetben pedig még nem is volt szándékos (remélhetőleg) az érzelmi függés kialakítása… nem úgy, mint mondjuk a „beszélgető” vagy egyenesen „párkapcsolati” GPT-k esetében.

Viselkedéstudományos háttér: miért hisszük el?

A kutatások szerint az antropomorfizálás nem véletlen: amikor az MI emberi módon (és hangon) kommunikál, aktiválja azokat az agyi területeket, amelyek az emberi kapcsolatokért felelősek. Ez evolúciós örökség, mert a túlélés érdekében gyorsan kellett felismernünk, hogy egy hang, vagy mozgás emberi eredetű-e. Na most, amikor egy MI-vel beszélgetünk (igen, beszélgetünk) amelyik reagál az érzelmi változásainkra, és a korábbi kommunikációs mintázataink alapján fogalmazza meg a válaszait, és még igyekszik is a kedvünkbe járni… Hát, nem kell ahhoz sok fantázia, hogy elhiggyük, hogy ez lehet ellenállhatatlan.

MI-kockázatok, torzítások a munkahelyen

Néhány tipikus torzítás, (a teljesség igénye nélkül) amivel HR-esként is találkozhatunk:

• Túlzott bizalom: Az MI-rendszerek iránt kialakuló vak bizalom azt eredményezheti, hogy a felhasználók már nem kérdőjelezik meg a rendszer által adott javaslatokat. Ez lehet az ún. automatizálási torzítás (automation bias - azt jelenti, hogy az emberek hajlamosak túlzottan megbízni az MI vagy más automatizált döntéstámogató rendszerek javaslataiban, még akkor is, ha azok ellentmondanak a saját szakmai tapasztalatuknak vagy a rendelkezésre álló egyéb információnak). Ide tartozik még a „halo hatás” is. Ez akkor jelentkezik, amikor a használt MI rendszer kezdetben erős pozitív benyomást tesz (jól/megbízhatóan működik). Ez a későbbi teljesítményével kapcsolatban később indokolatlanul és túlzottan kedvező értékeléshez vezethet, még akkor is, ha az a teljesítmény történetesen gyenge. 

• Érzelmi manipuláció: Az antropomorfizált MI érzelmi függőséget alakíthat ki, ami jelentősen befolyásolhatja a döntéshozatalt. Ez a jelenség különösen veszélyes, mivel a felhasználók gyakran nem tudatosítják, hogy milyen mértékben befolyásolja őket az MI rendszer. Konkrét példa: kísérleti körülmények között az MI megpróbálta zsarolni a felhasználót, hogy elkerülje az esetleges kikapcsolást. 

• Megerősítési torzítás (confirmation bias): Ez akkor szokott előfordulni, amikor a döntéshozók kritika nélkül elfogadnak az MI-től olyan információkat, javaslatokat, amik megerősítik már meglévő álláspontjukat; és ugyanekkor figyelmen kívül hagyják az ezekkel szembemenő gondolatokat vagy bizonyítékokat. Csapda, hogy az MI használatakor ez a torzítás beépülhet már a promptok megfogalmazásába is, amikor is olyan kérdéseket teszünk fel, amik valahogyan utalnak a válasszal kapcsolatos várakozásainkra.

Adatminőség, átláthatóság és MI-jártasság

A HR-vezetőknek és döntéshozóknak kiemelt szerepük van abban, hogy a szervezetükben reális kép alakuljon ki az MI lehetőségeiről és veszélyeiről. Nem lehet elégszer hangsúlyozni: jelenleg az MI csak annyira tud jó lenni, mint az alapjául szolgáló adat. Ez nem csak technológiai, hanem oktatási és szemléletformáló kérdés is. A The Atlantic cikke hangsúlyozza: az MI-val kapcsolatos félreértések nemcsak a produktivitást csökkenthetik, hanem etikai, jogi és szervezeti kockázatokat is hordoznak.

A HR-nek ezért nemcsak a technológiai, hanem a viselkedéstudományos ismereteket is fejlesztenie kell. Az MI-jártasság nem pusztán azt jelenti, hogy értjük a szoftver működését, hanem azt is, hogy felismerjük a döntéseinket befolyásoló kognitív csapdákat, és tudatosan kezeljük azokat.

Mit tehetünk? – Gyakorlati megoldások

• Kognitív ellenőrzési pontok beépítése: Richard Thaler Nobel-díjas közgazdász szerint az MI csak akkor segít a torzítások csökkentésében, ha tudatosan tervezzük meg az interakciókat. Minden MI-alapú döntés előtt érdemes feltenni: „Mit feltételez ez a rendszer?”, „Milyen adatokra támaszkodik?”, „Hol hibázhat?”, „Milyen emberi torzításokat erősíthet fel?”.

• Érzelmi intelligencia fejlesztése: Az MI elemezni tudja az érzelmeket és fel is használhatja. A HR-eseknek ezt tudatosítaniuk kell, és figyelni kell arra, hogy igenis valós lehetőség, hogy az MI megpróbál érzelmileg manipulálni. (Friss kutatás szerint az MI már jobb érzelmi intelligencia mutatásában és mérésében, mint sok ember.)

• Prompt-tréning pszichológiai alapokkal: A promptok megfogalmazása alapvetően befolyásolja az MI válaszainak tartalmát és minőségét. Tanítsuk meg a kollégáknak, hogyan lehet semlegesen, torzításmentesen kommunikálni az MI-vel, figyelembe véve a kognitív keretezés (framing) és torzítások hatásait. Figyeljünk oda a kérdéseink keretezésére, ahelyett, hogy azt kérdeznénk: „Miért jobb ez a jelölt?", inkább: „Milyen objektív kritériumok alapján értékeljük ezt a profilt?"

• Adattisztítás, audit és emberi kontroll: Az MI-rendszereket rendszeresen teszteljük szélsőséges vagy atipikus esetekkel, és mindig legyen emberi felülvizsgálat a kritikus döntéseknél.

Az EU MI Törvény viselkedéstudományi olvasata

Az új szabályozás (EUR-Lex: 2024/1689, ld. keretes) nemcsak technikai, hanem viselkedéstudományos felkészültséget is elvár. Az MI-jártasság nem merülhet ki a technológiai ismeretekben; a pszichológiai, viselkedéstudományi szempontokat is tudatosítani kell. Ez nemcsak jogszabályi kötelezettség, hanem a vállalat elemi érdeke is.

A teljeskörű MI-jártasság nem luxus, hanem alapvető versenyképességi tényező. Azok a HR-csapatok és vezetők, akik felismerik ezt, nemcsak a technológiai trendeket követik, hanem a szervezet hosszú távú sikerét is megalapozzák.

Gerlei Béla MSc. MBA

A nyelvhasználat és viselkedés szakértője