Common Sense Media (Youth AI Safety Institute) amerikai kutatásában a megkérdezett tinédzserek 44 százaléka nyilatkozott úgy, hogy találkozott már olyan szexuális tartalommal, amelyről úgy gondolta, hogy mesterséges intelligenciával generálták. Közülük pedig majdnem minden negyedik fiatal azt mondta, hogy a kép egy személyesen ismert embert, vagy akár saját magát ábrázolta – tájékoztatott a szakmai szervezet.
A tinédzserek ráadásul nem csupán fogyasztói ezeknek a tartalmaknak. Közel ötödük vallotta be, hogy készített már AI-alapú szexuális tartalmat, vagy ismer valakit, aki így tett. Ebben a csoportban majdnem kétharmaduk mondta azt, hogy a képeken a saját szociális hálójukból származó személyek szerepeltek: barátok, exek, vagy egy osztálytárs az iskola folyosójáról. Az AI által generált szexuális tartalmak megjelentek a tinédzserek életét meghatározó szerelmek, szakítások és csoportos csevegések világában.
„A szülőknek nemcsak azért kellene foglalkozniuk a témával, mert a fiatalok ki vannak téve ennek a jelenségnek. Azért is törődniük kell vele, mert a deepfake-ek alapjaiban változtatják meg azt, ahogyan a tinédzserek az intimitásról és a beleegyezésről gondolkodnak” – véli Dr. Supreet Mann, a kutatás vezetője.
A mesterséges intelligencia a szexuális zaklatás egy súlyos formáját tette annyira egyszerűvé, hogy azt ma már szinte bármelyik okostelefonnal rendelkező gyerek el tudja követni. A családoknak még azelőtt beszélniük kell erről, mielőtt megtörténik a baj, ugyanakkor a technológiai iparágnak is fel kell vállalnia a maga felelősségét – figyelmeztet a cikk.
Hirdetés
Egymást ismerő fiatalok között történik
A 13-17 éves korosztály körében végzett, 1314 fős reprezentatív felmérés a deepfake-ek, a hamisított aktképek, a „vetkőztető” alkalmazások és egyéb szexualizált AI-képek témakörét vizsgálta. Mivel a tizenévesek vonakodhatnak beismerni olyan viselkedést, amely aggodalmat kelthet a felnőttekben, Dr. Mann szerint az eredmények valószínűleg még alá is becsülik a jelenség valódi gyakoriságát. A későbbi fókuszcsoportos beszélgetéseken részt vevő fiatalok is megerősítették: a statisztikák egybecsengenek a kortársaik körében tapasztaltakkal, vagy sok esetben még túl alacsonynak is tűnnek.
Amit a gyerekek leírtak, az egyáltalán nem korlátozódik az internet sötét bugyraira. Az AI által generált szexuális tartalmak ott bukkannak fel a hírfolyamokban és a csoportos chatekben, ahol a tinik a mindennapjaikat töltik. Gyakran anélkül találkoznak velük, hogy keresnék őket, és sokszor egyenesen egy ismerősük továbbítja azokat.
Az összes tinédzser nyolc százaléka – nagyjából minden tizenkettedik – mondta azt, hogy ő maga is készített már AI-alapú szexuális tartalmat. A fiúk esetében ez a valószínűség majdnem háromszor akkora volt, mint a lányoknál: 11 százalék a 4 százalékkal szemben.
Mi az oka ennek a nemi aránytalanságnak? Debby Herbenick, az Indiana Egyetem professzora, aki a serdülőkori szexuális viselkedést kutatja és tanácsadóként vett részt a tanulmányban, rámutatott, hogy ez a minta jól ismert. Az eredmények „egybevágnak az iskolai szexuális zaklatásra és a serdülők közötti szexuális erőszakra vonatkozó adatokkal” – magyarázta.
Az AI nem találta fel a kortársak tárgyiasítására vagy megalázására irányuló késztetést. Egyszerűen csak egy sokkal erősebb eszközt adott a végrehajtásához.
Mindez éppen akkor történik, amikor a fiatalokban kialakulnak a vonzalomról és a beleegyezésről szóló első fogalmak. A tartalomkészítés mögötti motivációk nem mindig egyértelműek. Herbenick szerint a tinédzserkori „szexting” (szexuális tartalmú üzenetküldés) kutatása régóta rávilágított arra, hogy a flörtölés és a kíváncsiság mellett a bullying és a zaklatás is megjelenik. Bármi is legyen az eredeti szándék, egy kép pillanatok alatt nyilvános megaláztatássá válhat egy képernyőfotóval, egy szakítással, vagy a megosztás gomb lenyomásával.
A vonzerő egy része éppen abban rejlik, hogy ezeket az AI-eszközöket rendkívül könnyű használni. „Nincsenek akadályok, amiket át kellene ugrani, egyszerűen csak meg tudod csinálni ott helyben” – mondta az egyik 17 éves fókuszcsoport-résztvevő.
Hogyan változtatják meg a deepfake-ek a tinik életét?
A hatások messze túlmutatnak azokon a tinédzsereken, akiknek az arca végül megjelenik egy képen. A puszta tudat, hogy valaki így felhasználhatja az arcukat, már önmagában megváltoztatja a fiatalok viselkedését.
A tizenévesek kétharmada aggódik amiatt, hogy a beleegyezése nélkül szerepelhet AI által generált szexuális tartalomban, és a lányok sokkal jobban félnek ettől, mint a fiúk. „Mindenkinek éreznie kellene legalább egy kis aggodalmat – mondta egy 17 éves lány –, mert ezt annyira könnyű elkészíteni, és annyira hozzáférhető.”
Ez a félelem csendben, de határozottan formálja át az online jelenlétüket. Sok aggódó tini privátra állította a profilját, vagy drasztikusan lecsökkentette a magáról feltöltött fotók számát; közel minden tizedik fiatal pedig teljesen törölte a fiókját.
„Nem akarjuk, hogy bárkinek is félelemben kelljen élnie az interneten. De ha egy tér nem biztonságos, akkor alapvető önvédelmi lépés, ha teszünk valamit a saját biztonságérzetünk érdekében” – mondta Herbenick.
Azoknál a tinédzsereknél, akik végül online célponttá válnak, a károk az offline térben is tovább élnek. Herbenick szerint a beleegyezés nélkül készített szexuális deepfake-ek depressziót, szorongást, szégyenérzetet és tehetetlenséget okozhatnak vagy súlyosbíthatnak. Szemben egy szexuális témájú pletykával, egy kép vizuális bizonyítéknak tűnhet, még akkor is, ha soha nem történt meg, amit ábrázol.
A károk már az iskolákban is érezhetők. A Wall Street Journal nemrégiben megírta egy iowai diák történetét, aki egyike volt annak a mintegy 50 lánynak, akiket az osztálytárs fiúk egy „vetkőztető” weboldal segítségével vettek célba. Miután a hamis képek körbejártak, a lány annyira felkavarónak érezte a fiúk pillantásait a folyosókon, hogy végül inkább áttért az online, otthoni oktatásra. „Kísért a gondolat, ha csak rágondolok” – nyilatkozta a lapnak.
Az ő tapasztalata tökéletesen tükrözi azt az aránytalanságot, amellyel a mai tinédzsereknek együtt kell élniük: egy kép létrehozása csupán másodpercekbe telik, de évekig tarthat, mire az áldozat kiheveri.
Hogyan segítsünk a fiataloknak eligazodni a deepfake-korszakban?
A legtöbb tizenéves, aki találkozott már mesterséges intelligenciával generált szexuális tartalommal, pontosan értette, hogy másokról engedély nélkül ilyen deepfake-et készíteni súlyos határátlépés: 82 százalékuk szerint ennek egyértelműen illegálisnak kellene lennie. Ugyanakkor majdnem egynegyedük úgy nyilatkozott, hogy a hamisított aktképek kevésbé károsak, mint a valódi pornográfia, mondván, „senkinek sem esik bántódása”.
Ez az a tévhit, amit a szülőknek a leginkább és a leghamarabb el kell oszlatniuk. A „hamis” nem jelent ártalmatlant. A megaláztatás, a félelem és a kontroll elvesztése nagyon is valóságos. Herbenick szerint a felnőtteknek el kell magyarázniuk mind a súlyos emberi és lelki károkat, mind pedig az ilyen képek elkészítésének és megosztásának lehetséges jogi következményeit.
Ennek ellenére a tinédzserek mindössze 20 százaléka mondta azt, hogy beszélt már az AI-generált szexuális tartalmakról egy megbízható felnőttel. Több mint egyharmaduk ugyanakkor szeretett volna beszélni róla, de egyszerűen nem tudta, hogyan kezdjen bele.
Dr. Kellen Glinder kaliforniai gyermekorvos, a Common Sense Media tanácsadó testületének tagja azt javasolja, hogy a szülők „ne a bejárati ajtón, hanem az oldalajtón keresztül közeledjenek”. Úgy véli, ha rögtön olyan terhelt szavakkal indítanak, mint a pornográfia vagy a zaklatás, a gyerek azonnal bezárkózhat. Ahelyett, hogy azt kérdeznénk: „Készítettél már hamis aktképet?”, próbálkozzunk valami kevésbé vádlóval, például: „Mit hallottál arról, hogy a gyerekek mesterséges intelligenciát használnak hamis képek készítésére?” Ha egy tinédzser erre azt válaszolja: „De hát nem is volt igazi”, Glinder azt tanácsolja, hogy álljunk ellen az azonnali kioktatás kísértésének. Ehelyett vezessük végig a következményeket: Mi történik azután, hogy valaki elmenti? Te hogy éreznéd magad, ha a te arcod lenne rajta?
A legfontosabb, hogy biztonságos közeget teremtsünk, ahol a gyermekünk mer hozzánk fordulni. A hibáztatástól – vagy a telefon elvesztésétől – való félelem az egyik fő oka annak, hogy a fiatalok inkább csendben maradnak. A gyerekeknek tudniuk kell, hogy a szülőjük átsegíti őket egy krízisen – teszi hozzá Herbenick –, még akkor is, ha megszegtek egy szabályt, vagy rosszat tettek. A szülőknek egyértelművé kell tenniük, hogy kiskorúakról készült szexuális deepfake-ek létrehozása vagy megosztása törvénybe ütköző cselekedet, amely súlyos büntetőjogi következményekkel járhat.
A teljes kutatási jelentés itt olvasható el.
Forrás: Common Sense Media
