Shadow AI: a cégek felét aggasztják a nem hivatalos AI-eszközök

A brit vállalkozások több mint fele (51%) attól tart, hogy alkalmazottaik érzékeny és bizalmas vállalati adatokat adnak meg nem engedélyezett mesterséges intelligencia alapú eszközök használatakor – derül ki a Turbotic friss kutatásából. A felmérés, amely több mint 1000, az AI-projektek elindításában és értékelésében részt vevő vezető döntéshozót kérdezett meg, rávilágított az úgynevezett "árnyék-MI" (Shadow AI) terjedésére is, vagyis arra, amikor a dolgozók formális jóváhagyás vagy felügyelet nélkül használnak különféle MI-alkalmazásokat.

A megkérdezettek csaknem kilenc tizede (88%) véli úgy, hogy ilyen eszközöket használnak a szervezetükön belül. A legtöbb jogosulatlan AI-használatot az informatikai (IT) részlegeken jelentették (36%), amit a ügyfélszolgálat (30%), a marketing (28%) és az értékesítés (27%) követett.

A munkavállalók által megosztott adatok biztonsága mellett a vezetőket a következő tényezők aggasztják leginkább:

• Szabályozási vagy megfelelőségi kockázatok (38%)
• Az AI vezetés nélküli, önálló használata (36%)
• A pontatlan vagy megbízhatatlan, AI által generált információk üzleti döntésekre gyakorolt hatása (35%)

Annak ellenére, hogy az AI-t intenzíven használják, a válaszadók több mint negyedei (27%) – akik mind közvetlenül részt vesznek szervezetük MI-kezdeményezéseiben – azt nyilatkozták, hogy a kutatás előtt nem is hallottak a „Shadow AI” kifejezésről. Ez azt mutatja, hogy az ismeretek és a tudatosság jelentősen lemaradnak a tényleges technológiai bevezetéstől.

A kutatás rávilágít azokra a kihívásokra is, amelyek akkor merülnek fel, amikor a vállalatok az kísérleti fázisból szélesebb körű alkalmazásba helyezik át az MI-t: a válaszadók mintegy 64 százaléka jelezte, hogy szervezetük legtöbb vagy összes tesztprojektje már bekerült a mindennapi üzleti operációba.

Theodore Bergqvist, a Turbotic vezérigazgatója és társalapítója szerint az árnyék-MI jól mutatja, hogy a technológia elterjedése milyen gyorsan túlléphet a cégvezetés rálátásán és ellenőrzésén. Kiemelte, hogy a szervezeteknek a bevezetés korai szakaszától kezdve biztosítaniuk kell a láthatóságot, a szabályozást és a bizalmat, és ezt a felelősséget a vezetőségnek kell vállalnia azáltal, hogy világos kereteket teremt a munkatársak számára.

Forrás: HR News