A mesterséges intelligenciával foglalkozó OpenAI kutatóintézet leleplezett és felszámolt egy Izraelben működő agytröszt köré épített orosz befolyásolási kampányt, amely a ChatGPT segítségével Kreml-barát tartalmakat állított elő – jelentette a ynet izraeli hírportál, amit az MTI szemlézett.
A befolyásolási művelet középpontjában a Nemzetközi Burke Intézet (International Burke Institute, IBI) állt, amely nemzetközi szakértői közösségként mutatkozott be, és azt állította magáról, hogy 2025-ben alapították, székhelye pedig Izraelben van.
Az OpenAI már letiltotta a ChatGPT-fiókok Oroszországból kiinduló csoportját, amely az intézetet népszerűsítette, valamint Kreml-barát bejegyzéseket készített a Telegramra, az X-re, a Facebookra, a LinkedInre és más platformokra.
Az OpenAI úgy tárta fel a műveletet, hogy biztonsági csapatai vissza tudták vezetni a mesterséges intelligencia (AI) által generált közösségimédia-tartalmakat az azokat előállító fiókokhoz. A műveletet végzők vélhetően Oroszországból dolgoztak, VPN-szolgáltatásokat használva tartózkodási helyük elrejtésére és a ChatGPT-hez való hozzáférés oroszországi korlátozásának megkerülésére.
Hirdetés
A ChatGPT-vel Oroszország számára kedvező tartalmakat készítettek, és eltávolították a szövegekből az orosz eredetre utaló nyelvi jeleket, így a bejegyzések úgy tűnhettek, mintha más országokban élők írták volna őket spontán módon.
Főként oroszbarát narratívákat népszerűsítettek, miközben bírálták Ukrajnát, a NATO-t, az európai kormányokat és a Kijevnek nyújtott nyugati támogatást. A közelmúltban olyan címekkel jelentek meg írásaik, mint „Mit titkol előlünk a NATO?” és „Európa elkerülhetetlen bukása”.
A propagandához fejlett infrastruktúrát építettek ki, és hiteles kutatóintézetként népszerűsítették a Nemzetközi Burke Intézetet, amely tudományos jellegű cikkeket, szakértői profilokat és saját nemzetközi indexeket tett közzé.
Az IBI azt állította, hogy Izraelben működik, és olyan ismert értelmiségieket is a hozzá kapcsolódó szakértők között említett, mint Francis Fukuyama és Noam Chomsky.
Ezzel a politikai üzeneteknek a független tudományos tekintély látszatát kölcsönözték, a honlap vizsgálata azonban kimutatta, hogy a megvizsgált 36 cikkből 34-et valójában más forrásokból másoltak, majd megtévesztő vagy hamis szerzőséggel tettek közzé.
A honlap egy „szuverenitási indexet” is közzétett, amely különösen kedvező színben tüntette fel Oroszországot, miközben alacsonyabb pontszámokat adott olyan nyugati országoknak, mint az Egyesült Államok, Németország és Franciaország, valamint az Európai Unió.
A nyíltan Kreml-barát bejegyzés helyett egy-egy „tanulmányra”, indexre vagy elemzésre hivatkozhattak, amelyet egy nemzetközi nevű, professzionális külsejű honlappal és állítólagos szakértőkből álló névsorral rendelkező intézmény publikált.
Az OpenAI szerint a ChatGPT-fiókok nagyon valószínűen Oroszországból indultak, és az intézet népszerűsítésére használták őket, de nem állapította meg, hogy a valóban létező IBI-hez kapcsolódó valamennyi személy vagy szervezet tudatosan részt vett volna az orosz műveletben.
A generatív mesterséges intelligenciát a befolyásolási műveletekben nemcsak nagy mennyiségű tartalom előállítására használták, hanem a hitelesség látszatának megteremtésére is. Az OpenAI szerint a művelet azt mutatja, hogy az AI segítségével „tekintélyt lehet létrehozni, el lehet rejteni a kedvező narratívák eredetét, és olyan infrastruktúrát lehet felépíteni, amely később tovább bővíthető”.
Megjegyzés
Érdemes bevezetni egy új definíciót, ami a proaktív hallucináció, azaz a direkt hamis információkra építő befolyásolási kísérlet. Jól láthat, hogy a mesterséges intelligencia jelenlegi fejlettségi állapotában még védtelen sok beavatkozási módszertől. Persze, ha már párhuzamot vonunk a korábbi, korszakos változással, az internet és a keresők megjelenésével, ugyanoda lyukadunk ki, hiszen ott elérhetőek voltak már ezek a hamis tartalmak, csak a keresők szabályozása talán jobban szűrte. És igen, például a fizetett Google-hirdetésekben is gyakran előfordul kattintásvadász, vagy hamis oldalra történő terelés motivációja.
Ezért sem szabad egy az egyben átvenni és elfogadni az AI válaszait sem. Forráskutatás kell, jó prompt, különösen a kutatások és a szövegírások terén.
Meg kell tanítani az embereknek a kritikus gondolkodást, fejleszteni szükséges az absztrakciós képességeiket, valamint a médiatudatosságot, ami az AI biztonságos használatának az alapja.
Zámbori Bíró Tamás
Forrás: MTI
Ha tetszett a cikk, támogasd az AI Magazint!
Segíts, hogy továbbra is megbízhatóan, hitelesen, valamint érthető nyelven mutathassuk be a mesterséges intelligencia világát a mindennapi felhasználóknak és KKV-knak!
Minden támogatás közvetlenül a minőségi tartalomgyártást segíti. KÖSZÖNJÜK!
1 comment on “Dezinformációkkal befolyásolják az AI-válaszokat?”