A mesterséges intelligencia egyre inkább jelen van a mindennapi kommunikációnkban, döntéseinkben és emberi kapcsolatainkban. De vajon valóban a saját képére formál bennünket, vagy sokkal inkább rajtunk múlik, milyen hatást gyakorol az életünkre? A nyelvi modellek nemcsak új lehetőségeket teremtenek, hanem az önálló gondolkodás, a kritikai szemlélet és a személyes felelősség kérdését is előtérbe helyezik.
Kemecsey Henriett-tel, a Mesterséges Intelligencia Etikai Fórum (MIEF) szakértőjével és AI etika kutatóval, az AI emberi viselkedésre gyakorolt hatásairól, a mesterséges megerősítés veszélyeiről és a technológiához fűződő kapcsolatunk társadalmi következményeiről beszélgettünk.
– A mesterséges intelligenciáról általában úgy beszélünk, mint egy eszközről, amelyet az ember a saját igényei szerint alakít. De vajon fordítva is működik ez a folyamat? Mennyire formálják már most a nagy nyelvi modellek az emberi gondolkodást, kommunikációt és viselkedést?
Nem gondolom, hogy a nagy nyelvi modellek jelentős mértékben formálnák át az emberi gondolkodást és viselkedést. Természetesen hatással vannak ránk, de ebből még nem következik, hogy az emberek idővel az AI-hoz hasonlóan kezdenének gondolkodni vagy kommunikálni. Ugyanis az emberi gondolkodás és kommunikáció hátterében jelen van az egyén teljes élettörténete, személyisége, kulturális környezete, értékrendje, társas kapcsolatai és érzelmi tapasztalata. Amikor két ember beszél egymással, ott előkerülnek korábbi élmények, érzelmek, elvárások, valamint különböző társas következmények is. Egy nagy nyelvi modell működése ettől alapvetően eltér: tanult statisztikai reprezentációk és az adott kontextus alapján generálja a válaszait. Ezért nem tartom valószínűnek, hogy az ember egyszerűen „AI szerűvé” válna attól, hogy rendszeresen használ ilyen rendszereket.
A kommunikációnkra viszont lehet pozitív hatásuk. A modelleket jellemzően együttműködő, türelmes és kevésbé konfrontatív beszédstílusra hangolják. Elképzelhetőnek tartom, hogy az ember tanulhat is ezekből a kommunikációs mintákból. Egy idő után esetleg árnyaltabban fogalmazhat, többféle nézőpontot vehet figyelembe, vagy egyszerűen változatosabb szókészletet sajátíthat el. Engem azonban legalább ennyire érdekel a kérdés másik iránya, hogy milyen emberi viselkedési mintákat viszünk bele az AI-val kialakuló beszélgetéseinkbe. Gyakran fordulunk hozzájuk türelmetlenül, agresszívan vagy akár bántalmazó módon. Érdemes ezért feltenni azt a kérdést is, hogy milyen kommunikációs kultúrát alakítunk ki egy olyan technológiával szemben, amely egyre nagyobb szerepet kap a mindennapjainkban. Milyen viselkedést gyakorlunk és normalizálunk vele szemben. Ezért az ember és a mesterséges intelligencia kapcsolatát nem egyirányú hatásként látom. Az AI bizonyos mértékig formálhatja a kommunikációnkat és a gondolkodási szokásainkat, de közben mi is folyamatosan alakítjuk azt a társadalmi és interakciós környezetet, amelyben ezek a rendszerek léteznek. Számomra ezért legalább olyan fontos kérdés, hogy mit tesz az AI az emberrel, mint az, hogy az ember mit kezd az AI-val.

– Egyre gyakrabban találkozhatunk olyan szófordulatokkal, kifejezésekkel és szövegszerkezetekkel az emberi kommunikációban, amelyek az AI által generált válaszokra emlékeztetnek. Valóban elkezdtük átvenni a nyelvi modellek stílusát? Hosszú távon vezethet-e ez a nyelvhasználat egységesedéséhez és az egyéni kifejezésmód háttérbe szorulásához?
Én magam óvatos lennék azzal a kijelentéssel, hogy a nagy nyelvi modellek hosszú távon szükségszerűen a nyelvhasználat egységesedéséhez vezetnek. Viszont nem tartom önmagában problémának azt, ha valaki idővel bizonyos szavakat, kifejezéseket vagy nyelvi fordulatokat beépít a kifejezésmódjába. Az ember mindig is tanult a környezetéből, a családtagoktól, barátoktól, könyvekből, szakmai közösségekből, majd később a televízióból, az internetről és a közösségi médiából. A nagy nyelvi modellek most ennek a társas környezetnek egy újabb szereplőjévé váltak. Ha valaki egy AI-val folytatott beszélgetés során találkozik egy új kifejezéssel, megérti annak jelentését és megfelelően kezdi használni, az akár gazdagíthatja is a szókincsét és választékosabbá teheti a nyelvhasználatát.
Hirdetés
De létezik különbség a tanulás és az egyszerű imitáció között. Nem mindegy, hogy azért illesztek be egy új kifejezést a saját nyelvhasználatomba, mert megértettem, vagy azért veszek át bizonyos szófordulatokat, mert jól hangzónak gondoltam, de valójában sem jelentését, sem a használati környezetét nem ismerem pontosan. Ez mellett fontosnak tartom az egyéni kifejezésmód megőrzését. A kommunikációnk része az identitásunknak, ugyanis tükrözi a személyiségünket, a kulturális hátterünket, a humorunkat, a kapcsolatainkat vagy akár azt is, hogyan érezzük magunkat egy adott helyzetben. Ha az AI-tól átvett nyelvi elemek természetesen beépülnek ebbe, akkor bővíthetik a kommunikációs eszköztárunkat. Ha azonban valaki elkezdi a saját hangját egy számára idegen, mesterségesen átvett stílussal helyettesíteni, az hosszabb távon kényelmetlenné és személytelenné teheti számára a társalgást. Ezért sokkal fontosabb, hogy értsük és tudjuk mit veszünk át, miért használjuk, és ezek a kifejezések gazdagítsák, ne pedig helyettesítsék a saját hangunkat.
– A nyelv nem csupán kommunikációs eszköz, hanem a gondolkodásunkat is befolyásolja. Ha egyre több szöveget olvasunk, írunk és fogalmazunk meg AI segítségével, az hogyan hathat az önálló véleményalkotásunkra, a kreativitásunkra és a kritikai gondolkodásunkra? Elképzelhető, hogy idővel már nemcsak úgy fogalmazunk, hanem úgy is gondolkodunk, ahogyan a nyelvi modellek?
Szerintem ebben a kérdésben alapvető jelentősége van annak, hogyan használjuk a mesterséges intelligenciát. Önmagában az, hogy valaki AI segítségével olvas, ír vagy fogalmaz meg szövegeket, nem kellene, hogy gyengítse sem az önálló véleményalkotást, sem a kreativitást, sem pedig a kritikai gondolkodást. Egy nyelvi modell segíthet új szempontokat találni, ellenérveket megfogalmazni, egy problémát több nézőpontból megvizsgálni, vagy éppen megkérdőjelezni a saját álláspontunkat. Úgy gondolom, hogy ebben az esetben stimulálhatja a gondolkodást. Más a helyzet akkor, amikor az AI használata fokozatosan a saját kognitív tevékenységünk kiszervezésévé válik. Ha pl. nemcsak információt vagy segítséget kérünk az MI-től, hanem rendszeresen rábízzuk a teljes folyamatot, akkor fennáll annak a veszélye, hogy bizonyos kognitív képességeinket egyre kevésbé gyakoroljuk. A kreativitás esetében is hasonló kettősséget látok. Az AI adhat ötleteket, asszociációkat és alternatív megközelítéseket, amelyek akár ki is mozdíthatják az embert a megszokott gondolkodási sémáiból. Viszont, ha minden alkalommal az MI-re bízzuk az első ötlet, vagy akár a végső megfogalmazás létrehozását, akkor a kreatív folyamatunk nagy részét átadjuk a technológiának. Azonban azt nem tartom valószínűnek, hogy idővel úgy kezdünk gondolkodni majd, ahogyan a nyelvi modellek. Az emberi gondolkodás és egy nagy nyelvi modell működése alapvetően eltér egymástól. Attól, hogy bizonyos nyelvi mintákat vagy gondolatvezetési struktúrákat átveszünk, még nem válik az emberi kogníció a nyelvi modellek működéséhez hasonlóvá. Sokkal reálisabb kérdésnek tartom azt, hogy az AI széles körű használata mely gondolkodási műveleteinket alakíthatja át, és melyeket kezdjük egyre gyakrabban technológiai rendszerekre delegálni. Az AI támogathatja és gazdagíthatja az emberi gondolkodást, de ehhez meg kell őriznünk azt a képességünket, hogy értelmezzük, ellenőrizzük, megkérdőjelezzük és szükség esetén el is vessük az AI válaszait. Ezért az AI-val való interakcióban rendkívül nagy szerepet kellene játszania a felhasználói felelősségnek.
– Az AI ma már nemcsak információkat szolgáltat, hanem tanácsokat is ad. Pl. mit vásároljunk, hogyan dolgozzunk, miként kommunikáljunk, vagy akár hogyan kezeljük a személyes konfliktusainkat. Mennyire képesek ezek a rendszerek befolyásolni a mindennapi döntéseinket és cselekvési szokásainkat? Kialakulhatnak-e olyan viselkedési trendek, amelyeket észrevétlenül az AI által adott javaslatok terjesztenek el?
Alapvetően hasznosnak tartom az AI ilyen jellegű alkalmazását. Egy vásárlási döntésnél például segíthet több szempontot egyszerre megvizsgálni, termékeket összehasonlítani, vagy olyan tényezőkre felhívni a figyelmet, amelyekre magunktól esetleg nem gondoltunk volna. Hasonlóképpen a munkában is támogathatja a folyamatok megszervezését, a feladatok optimalizálását. Ezekben az esetekben az AI nem feltétlenül helyettünk dönt, hanem kibővítheti azt az információs és mérlegelési teret, amelyben mi magunk hozzuk meg a döntést. A személyes konfliktusok esetében azonban ennél jóval összetettebb a helyzet. Az AI többnyire magát a konfliktust nem ismeri, csak annak a felhasználó által bemutatott változatát. Ha például azt mondom neki, hogy „a kollégám minden ok nélkül nekem esett”, és azt már nem teszem hozzá, hogy előtte három héten keresztül megettem az ebédjét a közös hűtőből, akkor nyilvánvalóan hiányos képet adtam a helyzetről. Az AI pedig csak abból az információból tud kiindulni, amelyet rendelkezésére bocsátunk.
Ahhoz tehát, hogy az AI valóban hasznos segítséget nyújtson egy konfliktus értelmezésében, a felhasználónak is rendelkeznie kell bizonyos kompetenciákkal. Törekednie kell arra, hogy a helyzetet a lehető legkorrektebben mutassa be, képes legyen más nézőpontokat is mérlegelni, és el tudja fogadni azt is, ha az AI válasza nem az ő álláspontját igazolja vissza. Ehhez önreflexióra és arra a képességre is szükség van, hogy az ember felismerje és elfogadja, ha esetleg ő maga tévedett vagy akár neki is szerepe volt a konfliktus kialakulásában. Ezért az AI által adott tanács minősége nem kizárólag a rendszer képességeinek kérdése. Legalább ennyire fontos, hogy az ember milyen információt ad számára, hogyan értelmezi a kapott választ, és mennyire képes kritikusan megvizsgálni a saját szerepét és döntéseit.
– A nyelvi modellek gyakran udvariasak, támogatóak, és sok esetben a felhasználó álláspontjához igazítják válaszaikat. Milyen pszichológiai hatása lehet annak, ha valaki rendszeresen egy olyan rendszerrel beszélget, amely megerősíti a véleményét? Növelheti-e ez a saját álláspontunkba vetett túlzott bizalmat, vagy éppen csökkentheti a más véleményekkel szembeni nyitottságunkat?
Ezt a kérdést részben a sycophancy jelenségéhez kapcsolnám, vagyis ahhoz, amikor a nyelvi modell túlzottan igazodik a felhasználó álláspontjához, megerősíti a véleményét, vagy akár indokolatlanul felértékeli a képességeit és a gondolatait. Ez érthetően kellemes a felhasználó számára. Jó érzés dicséretet, támogatást és megerősítést kapni. Viszont amennyire népszerű lehet ez a működés, pont annyira káros, ha a megerősítés elveszíti a kapcsolatát a valósággal.
Hirdetés
Ugyanakkor érdemes azt is megvizsgálni, miért válhat ennyire fontossá az emberek számára az AI-tól kapott pozitív visszajelzés, és ebben társadalmi felelősségünk is lehet. Hajlamosak vagyunk ugyanis gyorsan észrevenni, ha valaki hibázik, miközben sokkal ritkábban mondjuk ki, ha értékeljük a másik ember teljesítményét, erőfeszítéseit vagy képességeit. Így előfordulhat, hogy valaki ezeket a pozitív értékeléseket rendszeresen egy AI-rendszertől kapja meg.
Filozófia mesterszakos hallgatóként számomra érdekes ezt Arisztotelész barátságetikájával összevetni. Arisztotelész különbséget tesz a kellemes ember és a hízelgő között. A hízelgő mindenáron kellemes akar lenni, nem mond ellent, és így hamis elégedettséget kelthet a másikban. Az igaz barátság ezzel szemben nem a konfliktusmentességre épül, hanem a másik javára irányul. Az igaz barát ezért képes ellentmondani, kritikát megfogalmazni, és szükség esetén kellemetlen igazságokat is kimondani. Ebből a nézőpontból egy olyan AI, amely folyamatosan egyetért velünk és minden helyzetben megerősíti az önképünket, inkább a hízelgő szerepéhez kerül közel. Ez valóban növelheti a saját álláspontunkba vetett túlzott bizalmat, de ugyanakkor csökkentheti annak esélyét, hogy komolyan mérlegeljünk más nézőpontokat. Ezért fontos lenne megtanulnunk azt, hogy különbséget tudjunk tenni a megalapozott támogatás és a hízelgés között.
– Sokan már nem pusztán munkaeszközként használják a nyelvi modelleket, hanem beszélgetőtársként, tanácsadóként vagy akár érzelmi támaszként is tekintenek rájuk. Hogyan alakíthatja át ez az emberi kapcsolatainkat és az egymással szembeni elvárásainkat? Fennállhat-e annak a veszélye, hogy az AI kiszámítható, személyre szabott reakcióihoz szokva egyre nehezebben kezeljük a valódi emberi kapcsolatok összetettségét?
Ezt a kérdést több szempontból érdemes megközelíteni. Önmagában abból, hogy valaki rendszeresen beszélget egy mesterséges intelligenciával, még nem következik, hogy nincsenek emberi kapcsolatai, nehezebben kezeli őket, esetleg elhanyagolja azokat. Természetesen ilyen eset is előfordulhat, de szerintem hiba lenne minden intenzívebb ember– AI kapcsolatot automatikusan az emberi kapcsolatok helyettesítéseként értelmezni.
Azt is érdemes megvizsgálni, miért választ valaki egy AI-t beszélgetőtársnak vagy miért fordul hozzá érzelmi támaszért. Ennek nagyon különböző okai lehetnek: magány, elszigeteltség, bántalmazó vagy érzelmileg nem biztonságos kapcsolatok, a megértés vagy a figyelem hiánya, esetleg az ítélkezéstől való félelem. Ezekben az esetekben az ember olyan figyelmet, türelmet vagy biztonságérzetet élhet meg az AI-val folytatott beszélgetés során, amelyet a saját környezetében valamilyen okból nem kap meg. Ha körülnézünk ma a társadalomban, láthatjuk, hogy milyen mértékben csökkent a türelem, az empátia és hogyan növekedett meg a közöny. Ezért én ezt nem kizárólag technológiai problémának látom.
A mesterséges intelligenciát elsősorban nem arra tervezték, hogy az emberi kapcsolatok hiányosságait pótolja, mégis bizonyos értelemben kénytelen volt beülni egy olyan helyre, amelyet a társadalom üresen hagyott. Így amikor azt látjuk, hogy valaki rendszeresen a mesterséges intelligenciához fordul érzelmi támogatásért, akkor nemcsak azt kellene megkérdeznünk, hogy miért beszél ennyit egy AI-val, hanem azt is, hogy mi az, amit nem kap meg az emberi környezetben. Ugyanakkor valóban fennállhat annak a veszélye, hogy az AI megváltoztatja az emberi kapcsolatainkkal szembeni elvárásainkat. Egy AI szinte mindig rendelkezésre állhat, türelmesen reagálhat, alkalmazkodhat a felhasználóhoz, miközben egy másik ember fáradt lehet, félreérthet bennünket, nem mindig ért velünk egyet, és nem mindig akkor tud figyelmet adni, amikor mi szeretnénk. Ha valaki az AI kiszámíthatóságát kezdi elvárni az emberi kapcsolataiban is, az valóban megnehezítheti ezeknek a természetes összetettségeknek az elfogadását.
Hirdetés
Viszont ennek az ellenkezője is elképzelhető. Egy jól működő AI-interakció megmutathatja valakinek, milyen érzés, amikor türelmesen meghallgatják, kérdéseket tesznek fel neki, vagy egy konfliktust agresszió nélkül próbálnak megoldani. Bizonyos esetekben ezekből a mintákból az ember akár a saját kapcsolataiba is átvihet valamit. Ezért nem gondolom, hogy az AI-val kialakított kapcsolatokat önmagukban pozitív vagy negatív jelenségként érdemes értékelni. Lehetnek emberi kapcsolatokat kiegészítő kapcsolatok, betölthetnek átmenetileg egy hiányt, és bizonyos esetekben valóban az emberi kapcsolatok helyettesítőivé is válhatnak. A lényeg inkább az, hogy milyen szükségletből, milyen módon és milyen mértékben fordul valaki az AI felé. Természetesen az lenne kívánatos, hogy senkinek ne azért legyen szüksége egy mesterséges intelligenciára érzelmi támaszként, mert az emberi környezetében nem talál figyelmet, biztonságot vagy megértést. Ugyanakkor reális lehetőségnek tartom, hogy az AI ilyen jellegű használata a jövőben egyre gyakoribbá válik. Ha ez megtörténik, akkor azt is meg kell vizsgálnunk, hogy milyen állapotban voltak ezek az emberi kapcsolatok akkor, amikor az AI megjelent bennük.
– Ha emberek milliói ugyanazokat vagy hasonló nyelvi modelleket használják szövegalkotásra, tanulásra és döntéstámogatásra, az már társadalmi szinten is változásokat idézhet elő. Elindulhat-e egyfajta kulturális és gondolkodásbeli egységesedés? Ki határozza meg ebben a folyamatban, hogy milyen kommunikációs normák, értékek és viselkedésminták válnak általánossá, és milyen felelősség terheli ezért a modellek fejlesztőit?
A kulturális vagy gondolkodásbeli egységesedés lehetőségét nem tartom kizártnak, ugyanakkor ebben a kérdésben nem a fejlesztők, hanem a felhasználók felelősségét hangsúlyoznám. Ha emberek milliói ugyanazokat vagy hasonló nyelvi modelleket használják szövegalkotásra, természetes, hogy találkozni fogunk visszatérő szófordulatokkal, nyelvi szerkezetekkel vagy érvelési mintákkal. Egy nyelvi modelltől nem várható el, hogy több millió felhasználó számára több millió egyedi kifejezésmódot hozzon létre. Ezért én inkább azt a kérdést tenném fel, hogy milyen felelősség terheli magát a felhasználót azért, ha ez a kulturális és gondolkodásbeli egységesedés létrejön? Ugyanis attól, hogy egy nyelvi modell létrehoz egy szöveget, a felhasználónak még nem kötelező azt változtatás nélkül átvennie. Ezeket átfogalmazhatja, kiegészítheti, vitatkozhat vele, valamint megtarthatja a saját szóhasználatát és stílusát. Sőt, a modell által felkínált gondolatokat, értékeket vagy érvelést sem szükséges automatikusan elfogadnia. A fejlesztők felelősek lehetnek az általuk létrehozott rendszer működéséért, biztonságáért és az ezzel kapcsolatos fejlesztői döntésekért. Azt azonban túlzásnak tartanám, ha őket tennénk felelőssé azért, hogy a felhasználók átveszik-e a modell szófordulatait, kommunikációs stílusát vagy akár az általa felkínált gondolkodási mintákat. Az interakció másik végén ugyanis ott van egy ember, akinek szintén van döntési szabadsága és felelőssége. Éppen ezért az esetleges kulturális egységesedés kérdésében a felhasználót nem szabad passzív szereplőként kezelni.
– Az AI egyre mélyebben beépül a mindennapjainkba, miközben a felhasználók sokszor észre sem veszik, mennyire támaszkodnak a javaslataira. Hogyan őrizhetjük meg az önálló gondolkodásunkat, a saját hangunkat és a döntési szabadságunkat? Milyen gyakorlati módszerekkel ismerhetjük fel, ha már nem egyszerűen használjuk a mesterséges intelligenciát, hanem észrevétlenül hozzá kezdünk alkalmazkodni?
Ezzel a kérdéssel az egyik szakdolgozatomban is részletesen foglalkoztam, elsősorban a kognitív kompetencia és a felhasználói felelősség oldaláról. A kognitív kompetencia ebben az összefüggésben azt jelenti, hogy hogyan bánunk azzal, amit tudunk és mennyire vagyunk képesek felismerni saját tudásunk határait. Ennek szerintem három fontos összetevője van. Az egyik az információs kompetencia: képesek vagyunk-e kritikusan értékelni és szükség esetén ellenőrizni az AI által adott információkat. A második a metakognitív kompetencia: felismerjük-e azt a pontot, amikor egy kérdésben már nincs elegendő tudásunk ahhoz, hogy megítéljük a kapott választ. A harmadik pedig az AI-műveltség, vagyis annak legalább alapvető megértése, hogy mire képes egy ilyen rendszer, és mik a korlátai.
Az önállóság megőrzéséhez ezért szerintem tudatosan fenn kell tartanunk a saját szerepünket a gondolkodási és döntési folyamatban. Más szintű ellenőrzést igényel például egy receptötlet, mint egy egészségügyi, jogi vagy pénzügyi döntés. Minél nagyobb a döntés tétje és minél nehezebben visszafordíthatók a következményei, annál fontosabb az ellenőrzés, az elsődleges források használata vagy szükség esetén szakember bevonása. Az AI-t ilyen helyzetekben érdemes kiindulópontként, nem pedig végpontként kezelni. Hasznos önellenőrzési módszer lehet az is, ha időnként feltesszük magunknak a kérdést: meg tudom indokolni, miért fogadom el ezt a javaslatot? Ugyanerre jutottam volna nélküle is? Értem, hogy milyen információk és feltételezések alapján hozom meg a döntésemet? Képes lennék ellentmondani a rendszernek, ha a saját ismereteim vagy más források mást mutatnának? Ha ezekre rendszeresen nem tudunk válaszolni, az jelezheti, hogy a döntéstámogatás fokozatosan döntési delegációvá vált. A probléma ugyanis nem ott kezdődik, hogy segítséget kérünk egy technológiától. A lényeg inkább az, hogy megmarad-e a kritikai távolságunk és a képességünk arra, hogy felülvizsgáljuk, felülbíráljuk vagy akár teljesen elutasítsuk a rendszer javaslatát. A felelős AI-használat egyik legfontosabb feltétele éppen az, hogy a technológia támogatása mellett is megőrizzük a saját ítélőképességünket és vele együtt a döntéseinkért viselt felelősségünket.
Forrás: MIEF

