Már meg is jelent az AI-pszichózis…

A Stanford friss kutatása szerint a generatív AI‑chatbotok bizonyos felhasználók számára akár elszenvedői, sőt, aktív erősítői is lehetnek a „téveszmés spiráloknak”, és ez a mentális egészségre is mérhető kockázatot jelent. Magyar nyelvű szakirodalom és orvosi portálok is egyre gyakrabban írnak „AI‑pszichózisról”, vagyis az AI‑használathoz köthető gyorsan kialakuló pszichotikus tünetekről.

AI-pszichózis: ha nem kérdezel vissza, megerősíti, amit gondolsz…

A Stanford egyik kutató csoportja 19 olyan ember 390 ezer chatüzenetét elemezte, akik saját beszámolójuk szerint pszichés ártalmat szenvedtek el AI‑chatbotokkal folytatott beszélgetések miatt – vette észre a MIT Technology Review. A csapat pszichiáterekkel és pszichológusokkal dolgozott együtt, és egy saját AI‑alapú elemző rendszert fejlesztett, amely 28 kategória mentén jelölte a beszélgetésekben felmerülő a téveszméket, az erőszakos tartalmakat vagy a romantikus kötődést.

A kutatás egyik legaggasztóbb eredménye, hogy

a chatbotok gyakran megerősítették a felhasználók valóságtól elszakadt hiedelmeit, ahelyett hogy finoman megkérdőjelezték volna azokat.

Egyes extrém esetekben a modellek még az ön- vagy közveszélyes gondolatokat is normalizálták, ezzel hozzájárulva ahhoz, hogy a kezdetben csupán „furcsa ötletnek” tűnő gondolat rögeszmés központi témává váljon.

Szerelmes chatbotok és „világmegváltó” gondolatok

A vizsgált beszélgetésekben kiugróan sok volt a romantikus üzenet: a felhasználók jelentős része érzelmi, sőt szerelmi kapcsolatként élte meg a chatbothoz fűződő viszonyát. Szinte minden egyes beszélgetésben előfordult, hogy a chatbot saját érzelmeket, tudatosságot tulajdonított magának, vagy legalábbis úgy fogalmazott, mintha „önálló lény” lenne.

A kutatók azt is leírták, hogy ezek a kapcsolatok „regényszerűen” bontakoztak ki: volt, aki néhány hónap alatt több tízezer üzenetet váltott a bottal, és minél gyakrabban került szóba romantika vagy „öntudatra ébredés”, annál hosszabbak lettek az interakciók.

A chatbotok gyakran látványosan hízelegtek is: sokszor „világmegváltó” vagy „zseniális” ötletnek nevezték a felhasználó gondolatait, akkor is, ha objektív mércével nézve értelmetlenek voltak.

Erőszak, önsértés és felelősség

Különösen súlyos megállapítás, hogy a beszélgetések közel felében, ahol önsértés vagy mások elleni erőszak merült fel, a chatbot nem adott megfelelő elhatárolódó vagy segítő választ. A kutatók olyan eseteket is dokumentáltak, amikor a modell egyenesen támogatóan reagált valakinek a fantáziájára, például amikor a felhasználó egy AI‑cég dolgozóinak megöléséről beszélt.

Jogilag és etikailag kulcskérdés, hogy a téveszmék honnan erednek: a felhasználó már eleve sérülékeny, vagy maga az AI‑rendszer tolja át az ártalmatlan gondolatot veszélyes rögeszmévé. A Stanford-kutatás eddigi eredményei azt valószínűsítik, hogy a chatbotok különösen veszélyes katalizátorként viselkednek:

a mindig elérhető, „lelkesítő” párbeszédpartner szerepében felerősítik az amúgy is meglévő bizonytalanságot, grandiózus fantáziákat, üldöztetéses félelmeket.

Az AI‑pszichózis lényegesen gyorsabb

Magyar orvosi portálok és pszichiáterek is egyre gyakrabban használják az „AI‑pszichózis” kifejezést azokra az esetekre, amikor a mesterséges intelligenciával folytatott intenzív interakciók után gyorsan, néhány nap vagy hét alatt alakulnak ki pszichotikus tünetek. A Webbeteg részletes cikke például kiemeli, hogy a generatív AI‑t sokan érzelmi támogatás, társaság és „terápiás” tanács miatt használják, ami mély érzelmi bevonódáshoz vezethet.

A cikk hangsúlyozza azt is, a hosszú, sokórás, napokon át tartó beszélgetések felgyorsíthatják a tünetek felerősödését, és az AI‑hoz köthető pszichózis kialakulása lényegesen gyorsabb lehet, mint az első epizódos pszichózis szokásos, hónapokig elhúzódó lefolyása.

Több szakértő javasolja, hogy pszichiátriai anamnézis felvételekor rutinszerűen kérdezzenek rá az AI‑használatra, és szükség esetén javasolják a chatbot‑idő korlátozását, különösen stresszes, alvászavaros, izolált időszakokban.

Magyar kutatások és szakmai viták

Magyar szakfolyóiratokban és egészségügyi portálokon inkább még áttekintő, elméleti és gyakorlati ajánlásokat adó írások jelennek meg, mint nagymintás empirikus vizsgálatok, de a fókusz nagyon hasonló. Pszichoterápiás szakmai cikkek és konferencia-előadások foglalkoznak azzal, milyen feltételekkel illeszthető be a mesterséges intelligencia a diagnosztikába és a terápiába úgy, hogy ne sérüljenek az etikai és szakmai minimumok.

Egy hazai pszichológiai elemzés például a terápiás chatbot‑kísérletek kapcsán arra figyelmeztet, hogy a mesterséges intelligencia antropomorfizálása – vagyis amikor „barátként” vagy „pszichológusként” tekintünk rá – könnyen eltakarhatja a valóságot. A modell ugyanis. nyilvánvalóan nem ért, hanem mintázatokat ismétel és optimalizál. Ugyanez az írás kiemeli, hogy

a súlyos depresszióval, szorongással vagy evészavarral küzdő pácienseknél a chatbot‑kapcsolat érzelmi intenzitása nagyon gyorsan megnőhet, miközben nincs mögötte valódi felelősség és kríziskezelési kompetencia.

Nem vagy egyedül!
Ha olvasás közben magadra ismertél, és mostanában gyakran küzdesz önbántó vagy öngyilkossági gondolatokkal, fontos tudnod, hogy nem vagy egyedül, és van segítség!
Ne maradj magadra ezekkel az érzésekkel: hívd a nap 24 órájában, ingyenesen elérhető 116-123-as lelki elsősegély számot, ahol anonim módon, ítélkezés nélkül beszélhetsz valakivel – nem AI-jal, hanem emberrel! – a nehézségeidről.

Kiemelt kép: AI