Bár a mindennapi keresések során ritkán okoz gondot a mesterséges intelligencia belső működésének átláthatatlansága, vállalati döntési helyzetekben már komoly tétje van a „fekete doboz” jelenségnek. Farkas Athéne, a Mesterséges Intelligencia Etika Fórum (MIEF) kutatási és szakértői vezetője szerint a technológia sosem mentesít a felelősség alól: a végső szót mindig az embernek kell kimondania.
A mesterséges intelligencia szakzsargonjában a fekete doboz (black box) azt a rejtett feldolgozási réteget jelöli, amely a felhasználói kérdés és a gép által adott válasz között húzódik. A repülőgépek adatrögzítőjéhez hasonlóan itt is rengeteg információ gyűlik össze a háttérben: a bemenet (legyen az szöveg, fájl vagy kép) és a kimenet közötti út sok esetben még a fejlesztők számára is nehezen lekövethető.
Amikor a homály kockázattá válik
Amíg egy egyszerű hétköznapi kérdésnél a transzparencia hiánya nem okoz problémát, egy vállalati döntésnél már kritikus tényező. Egyetlen vezető sem hivatkozhat arra, hogy azért hozott meg egy stratégiai döntést, mert „a modell ezt javasolta”. Az emberi mérlegelésben az érzelmek, a tapasztalatok és a szervezeti specifikumok is szerepet játszanak – ahogy két kolléga is adhat eltérő választ ugyanarra a dilemmára, úgy két AI-modell sem fog azonos eredményt generálni.
A legnagyobb kockázatot az jelenti, ha a rendszer ellenőrizetlen webes forrásokból, szabadon állítja össze az érvelését, miközben a vállalat szigorúan meghatározott, belső anyagok alapján várná a megoldást. Ennek kiküszöbölésére szolgál a prompt engineering, vagyis a precíz utasítások megalkotása. Ha a modellnek konkrét szerepet adunk, és pontosan kijelöljük a forrásait, sokkal kevésbé fog általános, statisztikai alapú válaszokba csúszni. Vállalati környezetben éppen ezért terjednek a zárt, fizetős ökoszisztémák, ahol a betáplált belső adatok útja szigorúan felügyelhető.
Hirdetés
Ember a gépezetben: a „human in the loop” elv
Bármit is generáljon a gép, az alapelv változatlan: a felelősség az emberé. A technológiai felületeken olvasható apró betűs figyelmeztetések rendre felhívják a figyelmet arra, hogy az AI tévedhet. A „human in the loop” (ember a folyamatban) koncepció éppen azt várja el a felhasználótól, hogy kritikusan értelmezze a kapott szöveget. A neurális hálók csupán felépítik a válaszokat a legvalószínűbb minták alapján, de arról, hogy mi kerülhet bele egy hivatalos szerződésbe vagy egy vezetői előterjesztésbe, már az embernek kell döntenie. A vak követést a kritikus gondolkodásnak kell felváltania.
Szabályozás és a megmagyarázható AI jövője
Az Európai Unió mesterségesintelligencia-szabályozása (AI Act) kockázati osztályok szerint ír elő transzparenciát. A kritikusnak minősített szervezeteknél kötelező feltüntetni az AI által generált tartalmakat, míg az alacsonyabb kockázatú, érzékeny adatokat nem kezelő szereplőkre enyhébb szabályok vonatkoznak. A belső működés teljes feltárását azonban a hétköznapi felhasználótól senki sem várja el.
A teljesen átlátható, úgynevezett megmagyarázható AI (Explainable AI – XAI) általános bevezetése egyelőre távoli forgatókönyv. Ezek a rendszerek gyökeresen eltérnek a ma népszerű nagy nyelvi modellektől, építésük pedig óriási erőforrást és speciális szaktudást igényel. Bár egy ChatGPT-től vagy Geminitől is ki lehet kényszeríteni a pontos hivatkozást megfelelő promptolással, a fekete doboz kezelése ma elsősorban gyakorlati kérdés: a felhasználónak tudnia kell, miből dolgozik a gép, és sosem spórolhatja meg a végső, emberi jóváhagyást.
A teljes beszélgetés a Jazzy Rádió Business Class rovatából itt hallgatható meg.
Forrás: Mesterséges Intelligencia Etikai Fórum (MIEF)
Gyors összefoglaló a témában:
- Mit jelent a fekete doboz az AI-ban? Azt a bemenet és kimenet közötti rejtett feldolgozási folyamatot, amit a felhasználó nehezen vagy egyáltalán nem tud végigkövetni. A modell a tanítóanyagában szereplő mintákból ad statisztikai választ.
- Kié a felelősség az AI javaslata alapján hozott döntésért? Kizárólag az emberé. A „human in the loop” elv megköveteli a kapott eredmények kritikus, szakmai felülvizsgálatát.
- Várható a nem magyarázható modellek betiltása? Egyelőre nem. Bár a nagy nyelvi modelleknél is kikényszeríthető a forrásmegjelölés, a dedikáltan „megmagyarázható AI” (XAI) egy teljesen más rendszerarchitektúra, amelynek fejlesztése még javában zajlik.

2 comments on “Dönthet-e helyettünk a fekete doboz? Az AI átláthatóságának határai és a vezetői felelősség”