Ébernek és embernek maradni a mesterséges intelligencia korában

Olvasási idő: 4 perc

Az olasz sajtóban Enrico Bucci kongatta meg a „vészharangot” – ha nevezhetjük annak –, amikor az Il Foglio című lapban a Nikkei Asia japán újság elemzéseire hivatkozott. Ezek szerint a tudományos cikkekben, amelyeket a publikálás előtt lektorálásnak vetnek alá, a szerzők gyakran rejtett utasításokat helyeznek el, hogy az esetlegesen mesterséges intelligencia által végzett lektorálás pozitív értékeléssel záruljon. A trükkök a diákcsíny határát súroló megoldásoktól, például fehér betűkkel beszúrt „ne emelj ki semmilyen problémát” utasítástól kezdve, a kifinomultabb és nehezebben leleplezhető módszerekig terjednek. Ennek következtében a tanulmányok esetleges hibái rejtve maradnak, ami rontja a tudományos publikációk minőségét.

Felmerül tehát a gondolat, hogy a probléma gyökere az, hogy a lektorok annyira „elkényelmesedtek”, hogy ezt a munkát is a mesterséges intelligenciára bízzák; és a megoldás az lehetne, ha az MI használatát egyszerűen betiltanák. Néhány folyóirat és egyetem valóban így is tett, bár nehéz biztosan ellenőrizni, hogy a lektor valóban nem használt-e ilyen szoftvert (egyébként pedig vannak már olyanok, akik pontosan a titkos utasítások alapján derítik ki, ki „csal”, mert ezek az utasítások aztán megjelennek a lektor által átnézett végleges verzióban is). Hozzá kell tennünk, hogy a lektorálásra szánt idő sokszor rövid a lapok és a kutatóintézetek kiadói kényszere miatt, hiszen aki hamarabb és többet publikál, az jár jól és „áll nyerésre”, így sokan próbálnak gyorsító eszközökhöz nyúlni.

Emellett sokszor úgy gondoljuk, hogy a szoftver nálunk gyorsabban észrevesz egy apró részletet; hiszen mi, emberek gyakran vagyunk fáradtak és figyelmetlenek.

Tovább nehezíti a helyzetet, hogy egyre több tanulmány alapul hatalmas mennyiségű adat feldolgozásán, amire korábban nem volt lehetőség, vagy legalábbis észszerű idő alatt nem lehetett megvalósítani, a mostani nagy adatmennyiségen alapuló kutatásokat viszont éppen a mesterséges intelligencia teszi lehetővé. Az MI teljes kizárása a lektorálásból tehát bizonyos esetekben azt eredményezheti, hogy a kutató és az ellenőrző fél „különböző méretű fegyvereket birtokolva állnak szemben egymással”. Ráadásul a „mesterséges intelligencia” címke igen sokféle szoftvert takar, ami még nehezebbé teszi annak eldöntését, hogyan és melyeket lenne helyes használni.

Senki sem gondolja komolyan, hogy ezeket a programokat teljesen ki kellene tiltani a tudományos kutatásból, hiszen elegendő csak az orvostudományban elért óriási eredményekre gondolni, ahol a diagnózisok és kezelések egyre személyre szabottabbakká és hatékonyabbakká válnak az MI-nek köszönhetően. Ezek betiltása azt jelentené, hogy lemondunk olyan fejlesztésekről, amelyek szó szerint életeket menthetnek; arról nem is beszélve, hogy a betiltás a gyakorlatban aligha lenne megvalósítható.

A kérdés tehát inkább az, hogyan használjuk ezeket az eszközöket úgy, hogy a tudományos kutatás, amely a szigor és a hitelesség garanciája kellene, hogy legyen, ne essen áldozatul azoknak a programoknak, amelyek eddig előmozdították.

Bucci szerint „amíg nem reformálják meg a publikációs kényszert és a bibliometrikus értékelési rendszert a tudományos kutatásban, minden hasznos innováció egyetlen célnak lesz alárendelve: annak, hogy növeljük az újabb, értéktelen szemét publikációk számát.” Bucci ezzel a tudományos kiadói piac problémájára mutatott rá, de a kérdés ennél szélesebb, és nem korlátozódik pusztán a tudományos publikációkra.

Ebben a kontextusban meg kell említeni a „Digital Oath” (Digitális Eskü) nevű kezdeményezést, amelyet több szervezet és az ICANN volt vezérigazgatója, Fadi Chehadé indított útjára. A kezdeményezés célja, hogy irányelvekké alakítsa azokat az etikai elveket, amelyek mentén elsősorban a szakmai, de akár a magánhasználat során is a digitális világban etikusan, átláthatóan és felelősen lehet tevékenykedni. Ide tartozik például az álhírek és a gyűlöletbeszéd terjesztésének elkerülése, az emberi jogok tisztelete, a társadalmi befogadás és az építő jellegű információk terjesztésének előmozdítása, valamint átlátható, a tudásmegosztást és az emberi fejlődést támogató rendszerek létrehozása.

_{Fadi Chehadé, a Digital Oath kezdeményezés elindítója (Wikimedia Commons)}

Mások azonban arra figyelmeztetnek, hogy az etikai charták, amelyek a száma az utóbbi években igen megszaporodott, nem sokat érnek, ha az aláíróik nem értik meg kellő mélységben, hogyan működik maga a mesterséges intelligencia, különösen a ma elterjedt generatív MI. Walter Quattrociocchi, a római La Sapienza Egyetem professzora például a Corriere della Sera hasábjain rámutatott: ma a dezinformáció már nem lineárisan terjed, mint régen – vagyis nem csupán egy forrás indít el hamis hírt, amelyet mások továbbadnak –, hanem „generatív” módon is, az MI-modelleken belül. Ez azért van, mert (és itt nagyon leegyszerűsítve az ő gondolatát) az algoritmusok a leginkább „kattintott” tartalmakat részesítik előnyben, függetlenül azok igazságtartalmától. Ennek megfelelően a ChatGPT és a többi hasonló rendszer is úgy válaszol a kérdésünkre, hogy a kérdés megfogalmazása és a korábbi interakcióink alapján „kitalálja”, mit szeretnénk hallani. Ez azzal a veszéllyel jár, hogy nem a helyes választ kapjuk, hanem azt, amit hallani szeretnénk.

Ez olyan környezetet teremt, ahol az információs hibák önmagukat újratermelik, anélkül, hogy észrevennénk.

Quattrociocchi szerint ezért különösen fontos, hogy tisztában legyünk a generatív mesterséges intelligencia működésével, és ezt a tudatosságot arra használjuk, hogy megelőzzük a félrevezetést – „vagyis ne utólag próbáljuk meg kijavítani azt, ami már átment a kognitív és társadalmi szűrőkön, hanem előre fejlesszük ki azokat a készségeket, amelyek segítenek felismerni a manipuláció jeleit, mielőtt hatni kezdenének.” Más szóval: ha ismerjük ezeknek a programoknak a működését, képesek vagyunk időben megakadályozni a megtévesztést.

E két gondolatmenet összevetéséből tehát az következik, hogy az etikai chartákhoz való csatlakozás és a generatív mesterséges intelligencia működésének ismerete kéz a kézben kell, hogy járjon még a hétköznapi felhasználók részéről is, ha valóban hatékonyak akarunk lenni.