Find Articles

Loading...
0

Dönthet-e helyettünk a fekete doboz? Az AI átláthatóságának határai és a vezetői felelősség

Bár a mindennapi keresések során ritkán okoz gondot a mesterséges intelligencia belső működésének átláthatatlansága, vállalati döntési helyzetekben már komoly tétje van a „fekete doboz” jelenségnek.

Bár a mindennapi keresések során ritkán okoz gondot a mesterséges intelligencia belső működésének átláthatatlansága, vállalati döntési helyzetekben már komoly tétje van a „fekete doboz” jelenségnek. Farkas Athéne, a Mesterséges Intelligencia Etika Fórum (MIEF) kutatási és szakértői vezetője szerint a technológia sosem mentesít a felelősség alól: a végső szót mindig az embernek kell kimondania.

A mesterséges intelligencia szakzsargonjában a fekete doboz (black box) azt a rejtett feldolgozási réteget jelöli, amely a felhasználói kérdés és a gép által adott válasz között húzódik. A repülőgépek adatrögzítőjéhez hasonlóan itt is rengeteg információ gyűlik össze a háttérben: a bemenet (legyen az szöveg, fájl vagy kép) és a kimenet közötti út sok esetben még a fejlesztők számára is nehezen lekövethető.

Amikor a homály kockázattá válik

Amíg egy egyszerű hétköznapi kérdésnél a transzparencia hiánya nem okoz problémát, egy vállalati döntésnél már kritikus tényező. Egyetlen vezető sem hivatkozhat arra, hogy azért hozott meg egy stratégiai döntést, mert „a modell ezt javasolta”. Az emberi mérlegelésben az érzelmek, a tapasztalatok és a szervezeti specifikumok is szerepet játszanak – ahogy két kolléga is adhat eltérő választ ugyanarra a dilemmára, úgy két AI-modell sem fog azonos eredményt generálni.

A legnagyobb kockázatot az jelenti, ha a rendszer ellenőrizetlen webes forrásokból, szabadon állítja össze az érvelését, miközben a vállalat szigorúan meghatározott, belső anyagok alapján várná a megoldást. Ennek kiküszöbölésére szolgál a prompt engineering, vagyis a precíz utasítások megalkotása. Ha a modellnek konkrét szerepet adunk, és pontosan kijelöljük a forrásait, sokkal kevésbé fog általános, statisztikai alapú válaszokba csúszni. Vállalati környezetben éppen ezért terjednek a zárt, fizetős ökoszisztémák, ahol a betáplált belső adatok útja szigorúan felügyelhető.



Ember a gépezetben: a „human in the loop” elv

Bármit is generáljon a gép, az alapelv változatlan: a felelősség az emberé. A technológiai felületeken olvasható apró betűs figyelmeztetések rendre felhívják a figyelmet arra, hogy az AI tévedhet. A „human in the loop” (ember a folyamatban) koncepció éppen azt várja el a felhasználótól, hogy kritikusan értelmezze a kapott szöveget. A neurális hálók csupán felépítik a válaszokat a legvalószínűbb minták alapján, de arról, hogy mi kerülhet bele egy hivatalos szerződésbe vagy egy vezetői előterjesztésbe, már az embernek kell döntenie. A vak követést a kritikus gondolkodásnak kell felváltania.

Szabályozás és a megmagyarázható AI jövője

Az Európai Unió mesterségesintelligencia-szabályozása (AI Act) kockázati osztályok szerint ír elő transzparenciát. A kritikusnak minősített szervezeteknél kötelező feltüntetni az AI által generált tartalmakat, míg az alacsonyabb kockázatú, érzékeny adatokat nem kezelő szereplőkre enyhébb szabályok vonatkoznak. A belső működés teljes feltárását azonban a hétköznapi felhasználótól senki sem várja el.

A teljesen átlátható, úgynevezett megmagyarázható AI (Explainable AI – XAI) általános bevezetése egyelőre távoli forgatókönyv. Ezek a rendszerek gyökeresen eltérnek a ma népszerű nagy nyelvi modellektől, építésük pedig óriási erőforrást és speciális szaktudást igényel. Bár egy ChatGPT-től vagy Geminitől is ki lehet kényszeríteni a pontos hivatkozást megfelelő promptolással, a fekete doboz kezelése ma elsősorban gyakorlati kérdés: a felhasználónak tudnia kell, miből dolgozik a gép, és sosem spórolhatja meg a végső, emberi jóváhagyást.

A teljes beszélgetés a Jazzy Rádió Business Class rovatából itt hallgatható meg.

◆ Kapcsolódó cikk
Kordában lehet tartani az AI-t? A „Tudok operátor” megpróbálja.

Szabályozás, jog, adavédelem
Kordában lehet tartani az AI-t? A „Tudok operátor” megpróbálja.
A mesterséges intelligencia (AI) fejlődése ma már gyorsabb, mint ahogy a társadalom megtanul felelősen bánni vele. De vajon ránk erőszakol-e egy globális etikai minimumot a szükség? Sipos Lóránt etikai intelligencia kutató a Jazzy Rádió Business Class műsorában beszélt a technológiai nagyhatalmak versenyéről, a valóság torzításáról és egy új, magyar fejlesztésű AI-ellenőrző rendszerről, a „Tudok operátorról”.
Elolvasom →

Forrás: Mesterséges Intelligencia Etikai Fórum (MIEF)


Gyors összefoglaló a témában:

  • Mit jelent a fekete doboz az AI-ban? Azt a bemenet és kimenet közötti rejtett feldolgozási folyamatot, amit a felhasználó nehezen vagy egyáltalán nem tud végigkövetni. A modell a tanítóanyagában szereplő mintákból ad statisztikai választ.
  • Kié a felelősség az AI javaslata alapján hozott döntésért? Kizárólag az emberé. A „human in the loop” elv megköveteli a kapott eredmények kritikus, szakmai felülvizsgálatát.
  • Várható a nem magyarázható modellek betiltása? Egyelőre nem. Bár a nagy nyelvi modelleknél is kikényszeríthető a forrásmegjelölés, a dedikáltan „megmagyarázható AI” (XAI) egy teljesen más rendszerarchitektúra, amelynek fejlesztése még javában zajlik.
google aimag hu



Tags:

AI Magazin

2 comments on “Dönthet-e helyettünk a fekete doboz? Az AI átláthatóságának határai és a vezetői felelősség”