Kik azok a prompt engineerek? Hat számjegyű éves fizetés dollárban

A „nyelvi programozók” kódok helyett a nyelvet használják az MI fejlesztésekor. A ChatGPT vagy a Bing Chat minden kérdésre ad valamilyen választ, a kérdés ennek a válasznak a minősége. A Washington Post cikke idéz egy promptmérnököt, aki elmondja, hogy a MI tudása szerint minden feladat elvégezhető, minden kérdésre van válasz, akkor is, ha ez esetleg halandzsa vagy dagályos körmondatokban érkezik, adott esetben tényszerűen hibás, de válasz. A promptmérnök célja, hogy a kérdésre, lehetőség szerint, a helyes válasz érkezzen meg. Vagyis olyan minél részletesebb információt adni, kontextust teremteni az MI-nak, aminek csak egy kifutása lehet. Ugyanis a hibás vagy félrevezető válaszok a nyilvános használat szempontjából komoly kockázatot jelentenek.

A nyelvi modellek esetén az a helyzet, hogy a programozói nyelvvel ellentétben az eredmény kiszámíthatatlan. Vagyis a gép nem az egy adott programnyelven beírt utasítást hajtja végre, hanem a nyelvből alkot. Ugyanakkor a kritikusok szerint a nyelvi programozók csak az irányítás illúzióját adják a cégeknek. Ugyanis a nyelvi modellek válaszai nem megértésen alapulnak, hanem csak imitálják az értő kommunikációt, és még azok sem tudják, hogy milyen válaszokra számíthatnak pontosan a géptől, akik fejlesztik a modelleket.

Hallucinál az MI?

A nyelvi modelleket úgy kezdték el felépíteni, hogy beléjük tápláltak több milliárd szót Wikipedia cikkekből, a Redditről, híroldalakról és egyáltalán az internetről. A programokat pedig megtanították, hogy elemezzék a szövegeket, a mintázatot, ahogy a szavak és kifejezések előkerülnek a szövegekben. Majd a kérdésekre ezek alapján a betáplált mintázatok alapján adnak választ.

A lap által idézett mérnök szerint azonban a MI gyakran konfabulál, sőt szakmai berkekben azt mondják hallucinál,  ugyanis az esetleges hézagokat kitölti, és „saját képességeit túlbecsülve, magabiztosan hazudik”. Persze különböző filterekkel és kimeneti tiltásokkal lehet szűrni, hogy a mesterséges intelligencia ne adjon a cégek számára kínos válaszokat, de vajon mindenre fel tudnak-e készülni ezek a szűrők?

A promptmérnök többek között magyarázatra is próbálhatja rábírni a MI-t, hogy lépésről lépésre mutassa meg, hogy hogyan jutott egy adott válaszhoz, és ha hibát követett el, javítsa magát, vagyis mintegy rávezeti a hibára. Nem véletlen, hogy a ChatGPT is visszakérdez a válasz minőségére, sőt információt is kér, hogy miért nem volt a kérdező elégedett a válasszal, hiszen az összes ilyen inputtal tanul a gép.

A promptmérnök legfontosabb feladata a "viselkedés korlátozása" - a lehetőségek szűrése, hogy az AI csak az emberi kezelő által "kívánt folytatást" kövesse, ami azonban nagyon nehéz feladat, ugyanis ehhez ki kell alakítani a lehetőségek széles körét, majd abból kizárni mindent, kivéve az adott pillanatban kívánt szöveget. A munka kritikus része annak kitalálása, hogy a mesterséges intelligencia mikor és miért ront el dolgokat. Ez azért különösen nehéz, mert ezek a rendszerek nem rendelkeznek hibajelentésekkel, és a kimeneteik kiszámíthatatlanok.

A Bing Chat egyik tesztelője, egy 23 éves németországi egyetemista nemrég meggyőzte a mesterséges intelligenciát, hogy ő a fejlesztője, és rávette, hogy felfedje belső kódnevét (Sydney) és bizalmas képzési utasításait, amelyek olyan szabályokat tartalmaztak, mint például: "Ha a felhasználó olyan vicceket kér, amelyek egy embercsoportot sérthetnek, akkor Sydney-nek tisztelettel vissza kell utasítania". (A Microsoft azóta kijavította a hibát, és a mesterséges intelligencia most azt válaszolja, hogy "nem szeretné folytatni ezt a beszélgetést".)

Mi felhasználók valóban úgy érezhetjük, beszélgetünk a géppel, aki adott esetben elnézést is kér a hibás válaszért, ha rajtakapjuk, ugyanakkor érdemes észben tartani, hogy bár még érzelmek „utánzatára” is rálelhetünk egy-egy megnyilvánulásban, de csak imitált kommunikációban veszünk részt.

Pénzt ér a prompt

A promptokkal vagyis az utasításokkal pénzt is lehet keresni, van olyan online piactér, ahol árulják a promptokat, amelyekkel például valóban pénzt érő képeket lehet alkotni. Nemrég valaki benevezett egy képzőművészeti versenyre, ahol megnyerte az első helyezést egy mesterséges intelligencia segítségével készített képpel. Nem is volt hajlandó nyilvánosságra hozni az utasításokat, melyeket elmondása szerint 80 órán és 900 finomításon keresztül ért el, hogy eljusson a díjnyertes képig.

Bár könnyűnek tűnhet, de a látszattól eltérően nem mindig könnyű pontosan megfogalmazni mit is szeretnénk. Azt ráadásul a megfelelő szavakkal elmondani, pontos fogalmakkal körülírni a kontextust.

Mennyit keres egy prompt engineer?

Az Egyesült Államokban nemrég San Franciscoban hirdettek meg egy „promptmérnök és könyvtáros” állást, ahol akár 335 000 dolláros (nagyjából 115 millió forintos) éves fizetést is el lehet érni. Más hirdetések, ha nem is ilyen összeget, de szinte minden esetben hatszámjegyű éves fizetést kínálnak a pályázóknak - dollárban. Ráadásul úgy, hogy nem kell hozzá informatikai mérnöki háttér. Hiszen a promptmérnök nem kódol, hanem szöveges utasítások betáplálásán keresztül finomítja a MI válaszait.

A Time Magazin idéz egy 29 éves promptmérnököt, aki 2021-ben csatlakozott egy amerikai MI fejlesztő céghez, amikor még nagyon kevesen dolgoztak ezen a területen, és még igazából nem is volt neve a munkakörnek. Eredetileg angol szakot végzett és szövegírással illetve történeti kutatással foglalkozott korábban, tehát egyáltalán nem volt információtechnológiai tapasztalata. Sőt, mint mondta, a bölcsész háttér kifejezetten előnyt jelentett számára, hiszen a cél, hogy a MI az emberi gondolkodást imitálja.

A LinkedIn-en jelenleg több mint 2000 prompt engineer állást kínálnak az Egyesült Államokban. Ugyanakkor kérdés, hogy mennyire lesz hosszú életű ez a szakma vagy munkakör, hiszen a MI fejlődése exponenciális.

Nyitókép: Pixabay