Ahogy haladunk előre a mesterséges intelligencia (AI) fejlődésében – ami valljuk be, nem hogy lassulna, mint inkább exponenciálisan gyorsul –, újabb és újabb szempontok, tuti megoldások kerülnek napvilágra. Joggal érezhetjük az AI FOMO-t, azonban egy lényegi kérdéssel ritkábban találkozunk: az AI válaszainak emberi ellenőrzésével és elfogadásával.
Nem tudom, vagy könnyebb elfogadni az AI-választ?
Néhány napja a Telex írt egy nemzetközi kutatásról, ami szerint az AI használata során egyre inkább hagyatkozunk annak válaszaira, azaz megkérdőjelezhetetlennek gondoljuk a mesterséges intelligenciát. A Telex azt a címet adta a cikkének, hogy „Magabiztosabban vagyunk hülyék, ha mesterséges intelligenciát használunk”.
Egy francia-olasz egyetemi kutatás során a feltett kérdések (mélykutatási ügynököket használtak) és az AI-tól kapott válaszok megítélését vizsgálták, azaz azt, a kérdező felhasználó milyen szinten fogadja el hitelesnek a válaszokat. A Telex cikkében idézett TNW beszámolója szerint az eredmények látványosak: a vizsgálatban azoknak az aránya, akik képesek voltak beismerni, hogy nem tudják a választ, 44 százalékról mindössze 3 százalékra esett vissza, ha AI segítségét is igénybe vehették. Ehhez képest a helyes válaszok aránya 27 százalékról 9 százalékra csökkent, a résztvevők magabiztossága viszont 30 százalékról 76 százalékra nőtt.
A Telex összefoglalója alapján az is előfordult, hogy a résztvevők maguktól még jó választ adtak volna, de az AI‑tanács (válaszok) hatására végül rossz válasz mellett döntöttek. A kutatók pénzjutalommal is próbálták ösztönözni a pontos válaszadást, ez azonban csak mérsékelt javulást hozott: az „nem tudom” válaszok aránya 3 százalékról 8 százalékra emelkedett, a helyes válaszoké 9 százalékról 16 százalékra, de mindkettő jóval elmaradt az AI nélküli válaszadók csoportjának 44, illetve 27 százalékos szintjétől.
Magabiztosabban mondjuk tehát a rossz válaszokat az AI segítségével, akkor is, ha magunktól fogalmunk sincs az adott témáról.
A mélykutatási ügynökök hibamechanizmusainak diagnosztizálása továbbra is kritikus kihívást jelent – írják a kutatás összefoglalójában, majd hozzáteszik, a meglévő referenciaértékek túlnyomórészt a teljes körű értékelésre támaszkodnak, elfedve a kritikus köztes hallucinációkat, például a hibás tervezést, amelyek a kutatási folyamat során felhalmozódnak.
Hirdetés
De miért is probléma minden kritika nélkül az AI-választ elfogadni?
„Az emberi gondolkodásban a ‘nem tudom’ képessége kulcsfontosságú, mert a saját tudásunk határainak felismerését jelenti” – fogalmazott az egyetemi kutatás egyik vezetője a TNW‑nek. Természetesen igaza van, ugyanakkor a kritikus gondolkodás során itt nem érdemes megállni. Mert válaszokra szükségünk van, és persze lehetnek olyan helyzetek, amikor az itthon, Török Gábor politológustól szállóigévé vált „egyrészt, másrészt” megközelítést lehet csak alkalmazunk.
Aztán jönnek az önmagukat megkerülhetetlennek tartó AI-szakértők, akik 50 promptot adnának pénzért vagy e-mail címért cserébe, amivel tuti válaszokat kaphatunk. Régóta tanulom én is, és használom az AI-t, de nyugodtan kijelenthetem, a jó promptok folyamatosan változnak, pontosítani kell, visszakérdezni, és kritikusan viszonyulni az AI válaszaihoz!
Új tendencia, hogy
a munkaerőpiacon egyre erősebb fókusz kerülhet olyan AI-szakértői pozíciókra, akik képesek emberi gondolkodással és skillekkel(!) ellenőrizni a mesterséges intelligencia válaszait.
Azaz – ahogyan a Fürth-manifesztumról írt cikkünkben fogalmaztunk – „mindenkinek – hallgatóknak, oktatóknak, adminisztratív munkatársaknak – AI-műveltségre van szüksége: érteniük kell az AI működési logikáját, felismerni a következményeit, és kritikusan, kreatívan tudni használni”.
De mik is ezek a tulajdonságok?
- hajlandóság a többféle forrás megkeresésére (ami időigényes!), azok összevetésére;
- globális történelmi és társadalmi tapasztalatok figyelembe vétele;
- kisebb hit a „energiabefektetés nélküli” teljesítésben (azaz az AI megcsinálja helyettem, de az biztosan jó?);
- politikai és szakmai „bálványimádás” elkerülése (attól, hogy felnézek egy kedvenc személyemre, még nem biztos, hogy hibátlan);
- és a klasszikus, római gondolkodás: „kinek az érdeke?” kérdésnek a feltevése és persze megválaszolása.
Mindez pedig teljes mértékben összefügg az általában értelmezett – és fejlesztendő – tulajdonságokkal: biztosan elhisszük a szomszéd Ilonka néninek, hogy annak idején a férjének olyan jó étvágya volt, hogy egyszerre meg tudott enni egy fél tábla szalonnát? Ellenőrizhetően igaza van a politikusnak, miszerint az ellenfele már eleve bűnben fogant, és mindig hazudik?
Nemkülönben biztosan elhisszük az AI-nak a válaszát, ha az nem logikus, vagy nem megfelelő, azaz értelmes a kontextus?
Persze tudom, nem nehéz nem ellenállni a könnyebben és gyorsabban befogadható válaszoknak, erről szól a bulvármédia sikeressége is, mégis – különösen a megkerülhetetlen(?) mesterséges intelligencia brutális fejlődésének köszönhetően – azt javaslom, erősítsük a felnőtt társadalomban, és különösen a gyerekekben a kritikus gondolkodást!
1 comment on “Elfogadom az AI válaszát, vagy nem?”