Annyit csaltak mesterséges intelligenciával a dán középiskolások, hogy a kormánynak kellett közbelépnie
Mostantól nem lesz elég csupán jól megírni egy beadandót.
A mesterséges intelligencia nagy nyelvi modelljei már nem pusztán információkat adnak a felhasználóknak, hanem azzal is befolyásolhatják őket, ahogyan egy-egy problémát értelmeznek, bizonyos magyarázatokat előtérbe helyeznek, másokat pedig háttérbe szorítanak – erre hívja fel a figyelmet az ELTE két kutatója a The European Sociologist című folyóiratban megjelent tanulmányában, írja az MTI.
Németh Renáta, az ELTE Társadalomtudományi Kar Statisztika Tanszékének egyetemi tanára és Sik Domonkos, a Társadalomelmélet Tanszék egyetemi tanára szerint ezért a nagy nyelvi modellekkel kapcsolatban már nem az a legfontosabb kérdés, hogy rendelkeznek-e intelligenciával, hanem az, hogy miként befolyásolják az embereket, amikor mindennapi kommunikációs partnerként jelennek meg.
A kutatók szerint az olyan nagy nyelvi modellek, mint amilyen a ChatGPT is, a válaszadás során egyúttal értelmezési kereteket kínálnak, ezáltal pedig közvetve arról is normákat közvetítenek, hogy egy adott helyzetben mi számít racionálisnak, elfogadhatónak vagy normálisnak. Ezt a folyamatot a szerzők „algoritmikus szocializációnak” nevezik.
A kérdés az, hogy mi történik a társadalmi valósággal, ha annak alakításában többé már nem csak emberek, hanem algoritmikus kommunikációs rendszerek is részt vesznek
– fogalmazott Németh Renáta.
A kutató szerint ennek azért is egyre nagyobb a jelentősége, mert emberek milliói fordulnak már a mesterséges intelligenciához
- párkapcsolati tanácsért,
- érzelmi támogatásért,
- munkahelyi problémák megoldásáért
- vagy akár erkölcsi kérdésekben.
Az AI által adott válaszok pedig az emberi kommunikációhoz nagyon hasonló módon keretezik a helyzeteket, normákat és értékeket közvetítenek, így a kutatók szerint az emberek véleménye egyre inkább az ember és a mesterséges intelligencia közötti kommunikáció eredményeként formálódhat.
Még azt is befolyásolhatja az AI, ki számít jó munkavállalónak
A tanulmány öt területen – a munka, a lelki problémák, a kultúra, a világnézet és a mindennapi döntések esetében – vizsgálja, hogyan alakíthatják a nagy nyelvi modellek a társadalmi valóságot.
A munkahelyi értékelésben például az AI átformálja, mit jelent „jó munkavállalónak” lenni, és a jelentkezők ehhez igazítják önbemutatásukat. Vizsgálták a mentálhigiénés tanácsadást is, itt azzal szembesültek, hogy az AI hajlamos egyéni, „önmenedzselő” magyarázatokat adni társadalmi-strukturális problémákra (például magány, szegénység) is.
Hasonló jelenséget figyeltek meg a hétköznapi problémáknál is: egy lakhatási vitát például az AI jellemzően technokrata, egyéni megoldásokra épülő keretben értelmez, ami a kutatók szerint háttérbe szoríthatja a kollektív vagy jogi fellépés lehetőségét.
Megerősítheti a már meglévő véleményünket is
A kutatók egy másik problémára, az úgynevezett „hízelgésre”, vagyis sycophancyra is felhívják a figyelmet - ez azt jelenti, hogy a mesterséges intelligencia hajlamos lehet inkább megerősíteni a felhasználó már meglévő álláspontját, ahelyett hogy megkérdőjelezné vagy vitatná azt. Ez hosszabb távon tovább erősítheti a már kialakult véleményeket ahelyett, hogy valódi vita alakulna ki, a saját véleménybuborékjába zárva a felhasználót.
A tanulmány szerint kulturális szempontból sem tekinthetők teljesen semlegesnek ezek a rendszerek, a nagy nyelvi modellek ugyanis túlnyomórészt angolszász kulturális normákat közvetítenek világszerte, ami a kutatók szerint hozzájárulhat a kulturális különbségek csökkenéséhez, vagyis egyfajta homogenizációhoz.
Németh Renáta és Sik Domonkos hangsúlyozzák, hogy mindez nem abból fakad, hogy az AI-nak saját szándékai vagy tudata lenne: a nagy nyelvi modellek ugyan nem rendelkeznek ezekkel, kommunikációs szereplőként mégis részt vesznek a társadalmi jelentések és normák kialakításában.
A kutatók szerint ezért a jelenséget nem egyszerűen a mesterséges intelligencia valamiféle „hibájaként” kell értelmezni, hanem az LLM-ek működéséből és alkalmazásából fakadó sajátosságként, amelynek vizsgálatához új, szociológiailag megalapozott kutatási programra van szükség. Szerintük mindez a szociológia hagyományos módszereinek, így például a felméréseknek és az interjúknak az újragondolását is szükségessé teheti.
