A mesterséges intelligencia (AI) rohamos fejlődésével egyre nyilvánvalóbbá válik: a jó technológia önmagában nem elég, ha a döntési folyamatok átláthatatlanok, a tanítóadatok pedig torzítottak. Markovics Milán Mór, a Mesterséges Intelligencia Etika Fórum (MIEF) elnöke a Jazzy Rádió műsorában hívta fel a figyelmet arra, miért elengedhetetlen, hogy a kódok mögött etikai metodikát ismerő szakemberek is álljanak.
A technológia ma sok esetben az úgynevezett „lawful but awful” (törvényes, de felháborító) területén mozog. Amit a jog megenged, az nem feltétlenül felel meg a társadalmi elvárásoknak vagy a morális normáknak. A munkahelyi bizalom, az adatkezelés vagy a mesterséges intelligencia alkalmazása pontosan ilyen terep. A hazai Mesterséges Intelligencia Etika Fórum – amely jogászokat, mérnököket, pedagógusokat és biztonsági szakembereket fog össze – éppen azért jött létre, hogy ezeket a kihívásokat komplex módon kezelje, és a mesterséges intelligencia jogi, etikai, társadalmi és biztonsági hatásait vizsgálva egy jobb világot építsen a gépek mellé.
A modern nagy nyelvi modellek működése alapvetően eltér a hagyományos programozástól. A fejlesztők megírják a tanulóalgoritmust, de a mesterséges intelligencia belső döntési mechanizmusait sokszor már maguk a mérnökök sem látják át teljesen. Ez a „fekete doboz” probléma: a rendszer meggyőző és helyesnek tűnő választ adhat, de az oda vezető útvonal rejtve marad. Ha az eredmény ellenőrizhetetlen, a működés megmagyarázhatósága csorbát szenved – ez olyan, mintha egy diák anélkül írná le a helyes végeredményt, hogy a számolás lépéseit ismerné.
Hirdetés
„Jó adat nélkül jó mesterséges intelligencia sincs” – hangzott el a műsorban, utalva a fejlesztések egyik legfőbb buktatójára. A modellek az emberiség által termelt múltbeli adatokon tanulnak, és ezzel együtt rögzítik a társadalmi elfogultságokat is.
Ezt bizonyítja az amerikai igazságszolgáltatásban tesztelt COMPAS-rendszer esete is, amely a visszaesés esélyét mérte a feltételes szabadlábra helyezéseknél, és a korábbi torzított rendőrségi adatok alapján tévesen, feltűnően magas kockázatúnak ítélte a fekete bőrűeket. Hasonló csapdába esett az Amazon korábbi toborzó szoftvere, amely a férfi jelentkezőket részesítette előnyben, mivel a betáplált történelmi önéletrajzokban ők voltak felülreprezentálva. A modell a megszokott mintát jutalmazza, és a rejtett elfogultságot akkor is megtartja, ha a nemre utaló nyílt megkülönböztető jeleket utólag eltávolítják.
A teljes beszélgetés:
Forrás: MIEF
