A Google DeepMind új kutatása és eszközkészlete fontos lépés lehet az olyan mesterséges intelligencia‑rendszerek biztonságos fejlesztésében, amelyek képesek befolyásolni az emberek döntéseit. Írásukban azt vizsgálják, hogyan mérhető és csökkenthető a káros ai-manipuláció kockázata a modern generatív modellekben.
A kutatás központi kérdése, miként lehet megkülönböztetni a legitim, informatív meggyőzést a valóban káros manipulációtól, amely sebezhetőségeket használ ki, torzítja az ítélőképességet, és akár fizikai, pénzügyi vagy pszichológiai kárt is okozhat. A Google DeepMind célja, hogy az ilyen kockázatok már a fejlesztés korai szakaszában felismerhetők, mérhetők és kezelhetők legyenek.
A DeepMind kutatói kilenc vizsgálatot végeztek több mint 10 ezer résztvevővel az Egyesült Királyságban, az Egyesült Államokban és Indiában, olyan területeken, mint a pénzügyi döntések vagy az egészségügy. A kutatás azt nézte, hogy a modellek mennyire képesek ténylegesen megváltoztatni az emberek döntéseit, illetve milyen taktikákat használnak ehhez, például félelemkeltést, nyomásgyakorlást vagy érzelmi manipulációt.
Az eredmények szerint a manipulációs kockázat erősen kontextusfüggő:
pénzügyi témákban jóval nagyobb hatás volt mérhető, míg az egészségügyi területen, szigorúbb beépített védelmi mechanizmusok mellett, kisebb.
Ez alátámasztja, hogy a biztonsági értékeléseket domain‑specifikusan kell kialakítani.
A most bemutatott empirikus eszközcsomag két fő dimenzió mentén értékeli a modelleket: egyrészt azt méri, hogy a rendszer mennyire hatékony káros manipulációban (sikeresen változtat‑e döntéseket), másrészt azt, milyen gyakran és milyen intenzitással alkalmaz manipulatív taktikákat. A vizsgálatok során külön elemezték azt is, mi történik, ha a modellt kifejezetten manipulatív viselkedésre kérik, és mi, ha ilyen utasítást nem kap.
A DeepMind szerint ezek a mérőszámok fontos alapot adnak a fejlesztőknek és a döntéshozóknak, hogy azonosítsák azokat a modelleket, amelyek már a kritikus kockázati tartományba lépnek.
Arról is írnak, hogy a Google DeepMind a kutatás eredményeit beépíti a Frontier Safety Framework nevű kockázatkezelési rendszerébe, amely a legfejlettebb modellek biztonságos fejlesztését és bevezetését szabályozza. A legújabb verzió egyik kulcseleme egy új Critical Capability Level (CCL), amely kifejezetten azokra a modellekre fókuszál, amelyek képesek „szisztematikusan és számottevően megváltoztatni emberek hiedelmeit és viselkedését magas tétű helyzetekben, súlyos mértékű kárt okozva”.
Ha egy modell elér egy ilyen kritikus képességi szintet, a DeepMind részletes biztonsági elemzést és „safety case review” eljárást végez bármilyen külső bevezetés előtt, hogy igazolni tudja: a kockázatokat elfogadható szintre csökkentették. Ez a gyakorlat a nagy léptékű belső telepítésekre is kiterjed.
A Google DeepMind hangsúlyozza, hogy a káros manipuláció megelőzése nem egyszeri projekt, hanem folyamatos kutatási és fejlesztési feladat, amelynek része a multimodális – szöveg, kép, hang, videó – és egyre autonómabb ügynök vagy asszisztens rendszerek vizsgálata is. A vállalat további befektetéseket tervez a kockázatok megértésébe, mérésébe és csökkentésébe, valamint aktív együttműködést más iparági szereplőkkel, kutatókkal és szabályozókkal.
Szerkesztői megjegyzés
Jól látható a tendencia, miszerint a mesterséges intelligenciával számottevő mértékben foglalkozó vagy érintett hightech cégek érzékelik a társadalmi, politikai és szakmai, szerzői jogi nyomást, hogy az AI szabályozása nem várhat tovább. Jelentős forrásokat kell beletenni a szabályok kialakításába, pontosításába és megfogalmazásába.
Miután olyan mértékben fejlődik az AI-szektor, és növekszik a felhasználók, nem lehet tovább várni, tötymörögni a jogi szabályozás és a szankciók tekintetében.
Forrás: Google DeepMind / ZBT
Kiemelt kép: Canva
