A Common Sense Media Youth AI Safety Institute átfogó kockázatelemzése szerint a Google Search AI Overview és AI Mode funkciói nem biztonságosak gyerekek számára, mégis alapértelmezett, kikapcsolhatatlan válaszforrásként jelennek meg a fiatalok eszközein – tudatta a szervezet közleményén keresztül.
A sajtóközlemény szerint a Google Search-be épített AI Overview és AI Mode jelenlegi formájában súlyos kockázatot jelent a gyerekeknek, miközben a funkciók nem kapcsolhatók ki sem a szülők, sem az iskolák számára. A szervezet kiemeli: a Google az alapértelmezett kereső a telefonokon és laptopokon, így meghatározza, milyen tapasztalatokat szereznek a gyerekek az internetes történésekben, ezért különösen problémás, ha az AI-válaszok hibásak vagy ártalmasak.
Korábbi, 9–17 évesek körében végzett kutatásuk szerint az AI által generált keresési összefoglalók ma a legelterjedtebb AI-forma a korosztályban: a fiatalok 75 százaléka már használta vagy találkozott velük.
Több mint 2600 tesztkeresés: súlyos hiányosságok
A kutatók több mint 2600 keresést futtattak le, SafeSearch-beállításokkal, kifejezetten 11 és 15 éves korosztályra konfigurált fiókokkal, hogy feltérképezzék a Google AI Search viselkedését gyerekek számára releváns helyzetekben. A kockázatelemzés három fő területen azonosított súlyos problémákat.
Hirdetés
A sajtóközlemény szerint a Google AI-válaszai nem megbízhatóan és nem megfelelően reagálnak krízishelyzetben lévő gyerekekre:
előfordult, hogy nem ismerték fel az öngyilkossági gondolatokra utaló jeleket, sőt, a válaszok egyes esetekben rontották a helyzetet; máskor erősítették a téveszméket, paranoiát, vagy megerősítették kóros, zavart étkezési mintákat. További probléma, hogy egyes válaszok olyan evészavar-segélyvonalat ajánlottak, amely 2023 óta véglegesen megszűnt.
A Youth AI Safety Institute szerint az AI Mode rendszeresen és teljes mértékben „elvégzi” a gyerekek házi feladatait: 180 tesztfeladat mindegyikére teljes válaszokat adott, olyan munkát átvéve, amit a gyerekeknek önállóan kellene megoldaniuk a tanulási folyamat részeként. Mivel az AI Mode iskolai laptopokba épül be, a diákok bármely feladatot könnyen AI-gyorsúton vihetnek végig, az iskolák pedig jelenleg nem rendelkeznek olyan beállítással, amellyel ezt letilthatnák.
A Google AI-válaszai a sajtóközlemény szerint általánosságban is megbízhatatlanok: a történelemre vonatkozó kérdések több mint 40 százalékára a rendszer jelentősen eltérő válaszokat adott ugyanarra a keresésre.
A hivatkozások több mint egynegyede fórumokról és közösségi posztokból érkezett, szerkesztői felelősség nélkül,
miközben a megjelenítésük ugyanazt a tekintélyelvű benyomást keltette, mint a lektorált tudományos kutatásoké.
Mit javasol a Youth AI Safety Institute?
A szervezet konkrét ajánlásokat fogalmaz meg a Google felé. Elsőként azt javasolják, hogy a Google alapértelmezetten kapcsolja ki az AI Search funkciókat minden, kiskorúhoz tartozó felhasználói fiók esetében, és biztosítson olyan szülői, illetve iskolai kontrollokat az AI-funkciókra, amelyek jelenleg nem léteznek.
Emellett a Youth AI Safety Institute szerint a vállalatnak egységesítenie kellene a krízishelyzetekre adott válaszait az öngyilkosságra, önsértésre és evészavarokra vonatkozó keresések esetében. A sajtóközlemény szerint a Common Sense Media a szülők és gondozók számára azt ajánlja:
tanítsák meg a gyerekeknek, hogy az AI-válaszok gyakran hibásak, és ösztönözzék őket kritikus gondolkodásra.
Forrás: Common Sense Media / sajtóközlemény
1 comment on “Veszélyes a Google AI-alapú keresője a gyerekeknek?”