Az ESET Hungary kutatést végzett a mesterséges intelligencia IT-biztonságra és mentális egészségre gyakorolt hatásairól. Ennek kapcsán bemutatták a „MI a baj? – Mesterséges intelligencia, IT-biztonság és mentális egészség” című iparági összefoglalójukat is.
Az AI már most újraírja a valóságérzékelésünket, a felhasználók jelentős része már nehezen vagy egyáltalán nem tudja megkülönböztetni, mikor szembesül AI-tartalommal, és mikor valódival. Eközben az emberek egy része már most is jobban bízik az AI válaszaiban, mint a saját megítélésében – írja sajtóközleményében a társaság. Hozzáteszik, a kutatás célja az volt, hogy feltérképezzék, hogyan viszonyulnak a magyar felhasználók az AI-technológiákhoz, milyen mértékben és mire használják azokat a mindennapokban, hogyan formálja az AI a felhasználók biztonsági döntéseit, és milyen új, kevéssé vizsgált kockázatokat jelent ez a vállalatok számára a digitális biztonság, pszichés jólét és munkáltatói szempontokból.
Az eredmények rámutattak, hogy a mesterséges intelligencia rohamos gyorsasággal vált a mindennapi élet részévé: a felhasználók egyre szélesebb köre alkalmazza különböző feladatokra, – legyen az magán vagy céges környezet –, ugyanakkor ezzel párhuzamosan nő a vele kapcsolatos bizonytalanság és a rejtett kockázatok száma is.
Itt az idő céges környezetben kontrollálni
A kutatás egyik legfontosabb megállapítása szerint
az AI használata annyira elterjedt vállalati környezetben is, hogy már nem lehet megállítani, így a legsürgetőbb kérdés az, hogy ez kontrollált vagy kontrollálatlan módon történik-e a szervezetekben.
Kitérnek arra is, a munkáltatóknak kritikus szerepe van abban, hogy szabályok közé tereljék házon belül az AI használatát. Egyrészt tudatosítsák és képezzék a munkavállalóikat, hogy megértsék az AI korlátait és lehetséges hibáit, másrészt az üzleti szempontból kritikus döntések esetén kötelező legyen az emberi ellenőrzés; valamint állítsanak fel technológiai korlátokat, amelyek segítenek kiszűrni a kockázatos használatot és támogatják az ellenőrizhetőséget.
A válaszadók jelentős része felismerte, hogy az AI egyre gyakrabban jelenik meg az online csalások és megtévesztések eszközeként.
AI-hatás: mentálisan ambivalens
A mentális egészség dimenziójában a kutatás azt mutatta, hogy az AI használata ambivalens hatással bír. Miközben növeli a hatékonyságot és megkönnyíti a mindennapi feladatokat,
fennáll a veszélye annak is, hogy csökkenti a kritikai gondolkodást, valamint erősíti a technológiától való függést. A felhasználók egy része hajlamos túlzott bizalmat helyezni az AI által generált válaszokba, ami hosszabb távon torzíthatja a döntéshozatalt és a valóságról alkotott képet.
„Az AI-technológia eljutott a tömegekhez, emiatt pedig nem túlzás azt állítani, hogy épp paradigmaváltáson esünk át, amelynek eredményeként teljesen át fog alakulni a valóságról alkotott képünk” – mondta a kutatás kapcsán Béres Péter, az ESET IT-vezetője. „Részben ez a gondolat hívta életre ezt a kutatást, mert azt gondoljuk, hogy az AI-technológiák széleskörű elterjedése, – éppen azok népszerűsége miatt –, sok területre lesz komoly hatással. Ilyen az IT-biztonság világa is, ami számunkra, az ESET termékeinek forgalmazójaként és IT-biztonsággal foglalkozó cégként kiemelten fontos terület. Már most is látszik, hogy az AI-generált tartalmak az informatikai megtévesztések, csalások, rosszindulatú műveletek egyik elsőszámú fegyverévé váltak.”
Komoly szakembereket hívtak a kutatáshoz
„Az AI egyszerre jelent soha nem látott hatékonyságú technológiát, lenyűgöző emergens képességeket, ugyanakkor, kiberbiztonsági szempontból hatalmas kockázatokat” – mondta a kutatást bemutató sajtóeseményen Keleti Arthur, kibertitok jövőkutató. „Ezzel a technológiával meg kell tanulnunk egymás mellett élni, sőt támaszkodni egymás képességeire, meg kell találnunk a megfelelő egyensúlyokat és megfelelően fel kell készülni az AI-eszközök használatára.
Tiltás helyett a megismerésben és a technológia megértésében látom a helyzet kulcsát, valamint abban, hogy sürgősen meg kell határoznunk az AI megoldások státuszát. Az AI több mint eszköz, de más mint az ember.”
„A mesterséges intelligencia olyasmi, amit ma már nem tudunk különválasztani a valóságtól” – ezt már Kerek István AI-üzletfejlesztési szakértő, az EVERENGINE Kft. ügyvezetője és tulajdonosa mondta. „Olyan paradigmaváltásról van szó, ami forradalmasítja a mindennapjainkat, ezért fontos, hogy ne kizárjuk az életünkből, hanem fejlődjünk a változással. A tudatos használat lényege, hogy a hasznosságot nem keverjük össze a hitelességgel. Az AI gyorsít és támogat, de az ellenőrzés felelőssége végig a mi oldalunkon marad.”
„Az AI nem csodafegyver, amely önmagában, emberi beavatkozás nélkül képes lenne minden problémát, feladatot megoldani, hanem egy hatékony segítség ebben” – fejtette ki az ESET IT-biztonsági szakérője, Csizmazia-Darab István. „A használata pedig nem előny, hanem az kerül komoly hátrányba, aki nem ismeri, nem használja ezt a technológiát.”
„Azt hiszem, a legnagyobb hibát akkor követjük el, ha az AI használata során nem vesszük észre a kognitív és érzelmi képességeink visszaszorulását és átlagemberként pozitív érzelmi kapcsolatot építünk az algoritmussal, ahelyett, hogy, megtartva a kritikai gondolkodást, eszközként kezelnénk” – figyelmeztetett Tari Annamária klinikai szakpszichológus.
Forrás: ESET Hungary
Fotóillusztráció: Canva
