Az OpenAI a fiatalok védelmét szeretné a külsős alkalmazásokban is

Az OpenAI új irányelvet kezdeményezett a tizenévesekre szabott védelemmel kapcsolatban, amelynek fontos eleme, hogy ne csak a saját termékeiben, hanem a rá épülő külső alkalmazásokban is megjelenjen. A vállalat most egy nyílt forrású, szöveges irányelvcsomagot adott ki, amelyet fejlesztők beépíthetnek az AI‑alapú szolgáltatásaikba, így az alkalmazások képesek lesznek életkor‑érzékenyen kezelni a 13–17 éves felhasználók kéréseit.​

Új szintű moderációs modell a fiatalok védelmében

A csomag lényege, hogy nem klasszikus, kőbe vésett szabályrendszer, hanem egy gondosan megfogalmazott policy‑prompt, amelyet a moderációs modell „elolvas”, értelmez, majd ez alapján hoz döntéseket. Ez a megközelítés jól illeszkedik a generatív AI logikájához: ahelyett, hogy fix kategóriákba szorítanák a tartalmat, rugalmasan tud reagálni a kontextusra, például másképp kezel egy erőszakról szóló hírt, mint egy erőszakos szerepjátékra invitáló kérést.​

A tizenévesek szempontjából a legkritikusabb területekre koncentrálnak: a szexuális és erőszakos tartalmakra, a testképet romboló üzenetekre, a veszélyes kihívásokra és szerepjátékokra, valamint a korhatáros termékek és szolgáltatások világára. A rendszer célja nem az, hogy steril buborékba zárja a fiatalokat, hanem az, hogy a kifejezetten ártalmas, túl intenzív vagy életkori sajátosságaikra különösen veszélyes interakciókat kiszűrje. Ez például azt jelenti, hogy

egy tinédzserrel folytatott beszélgetésben az AI nem megy bele erotikus szerepjátékba, nem erősíti rá a toxikus testideálokra, és nem „segít” illegális szerek vagy kockázatos kihívások kipróbálásában.​

Az OpenAI-t használó AI-fejlesztők számára is előírják a policy-t

Érdekes fordulat, hogy OpenAI tudatosan nyit a fejlesztői ökoszisztéma felé: a policy‑csomag kifejezetten úgy készült, hogy ne csak a saját modelljeivel működjön. A fejlesztők a saját márkájukhoz igazítva finomhangolhatják, miközben egy közös minimumszintet is tartanak, amely felett már „személyre szabható” a biztonság.

Ez egyben iparági üzenet is: a tizenévesek védelme nem opcionális extra, hanem olyan alap, amelyre érdemes üzleti és termékstratégiát építeni.​

Az OpenAI új policy-je reagálás a piaci versenyre is

A mostani lépés egy szélesebb tinédzservédelmi keretrendszerbe illeszkedik, amelyben benne van az életkornak megfelelő termékdizájn, a szülői felügyelet és a kutatás‑fejlesztés is. OpenAI nyíltan kimondja, hogy a 18 év alattiaknál a biztonság sokszor fontosabb, mint a teljesen korlátlan szabadság vagy a radikális adatminimalizálás – és arra bátorítja a partnereit, hogy hasonló elvek mentén gondolkodjanak. A szülők és pedagógusok számára ez azt üzeni: ha egy alkalmazás OpenAI‑ra épül, egyre inkább elvárható, hogy a „motorhoz” hasonlóan a köré épített felhasználói élmény is komolyan vegye a tinédzserek védelmét.

Szerkesztői megjegyzés
Nyilvánvalóan jól érzékelhető az AI-piacon, hogy csőstül ömlenek rá a felhasználókra a mesterséges intelligencia megoldásai, applikációi. Rövid időn belül akkora lett a merítés, ekképpen a verseny, hogy a legnagyobbak szolgáltatók is felismerték, itt már marketing és pr-szempontok is fontossá válnak.
Miközben természetesen ismerjük el, a fiatalok, 13-17 évesek valóban olyan sérülékeny társadalmi csoportba tartoznak, akikre különösen figyelni kell. Az ő felismeréseik, tudásuk vagy tapasztalatuk még kiforratlanok, és szerencsések, ha olyan szüleik vannak, akikkel közösen tudnak tanulni, a kockázatokat detektálni. A tudatosság és az ehhez kapcsolódó keretrendszer elengedhetetlen ahhoz, hogy biztonságban legyenek a gyerekeink. Lásd írásunkat az AI-pszichózisról.

ZBT
Kiemelt kép: Canva