Április 13-án a Vajdasági Magyar Akadémiai Tanács 14. Tudóstalálkozóján a szabadkai Tanítóképző Karon dr. Jelasity Márk egyetemi tanár tart plenáris előadást Az adatalapú mesterséges intelligencia néhány árnyoldala címmel.
Jelasity professzor az SZTE Számítógépes Algoritmusok és Mesterséges Intelligencia Tanszék vezetője és a Bolyai Intézetben működő mesterséges intelligencia kutatócsoportot vezeti. PhD fokozatát a Leideni Egyetemen szerezte 2001-ben Hollandiában. Az amszterdami VU egyetemen es a Bolognai Egyetemen összesen hat évig dolgozott a heurisztikus optimalizálás, az elosztott számítások, és az önszervező rendszerek területein. Jelenlegi érdeklődési területe az elosztott gépi tanulás és a mesterséges intelligencia biztonsági vetületei, pl. az ellenséges példák problémája. Fulbright kutatóként volt a Cornell egyetem vendége, elnyerte a Middleware konferencia 10 éves legjobb cikk díját, és a Magyar Tudományos Akadémia Bolyai-plakett díját.
Jelasity Márk (Fotó: Fotó: Kovács-Jerney Ádám)
2023 februárjában a Szegedi Akadémiai Bizottság rendezvényén tartott előadást, amelyben a mesterséges intelligencia biztonsági problémáiról volt szó. Felhívta a figyelmet, hogy a képfelismerő mesterséges intelligenciát anélkül lehet becsapni bizonyos zavaró jelekkel, hogy azt az emberi figyelem észrevenné. A gépi látást félre lehet vezetni. Az üzleti versengésben tömeges manipulációkra kerülhet majd sor. Akkor elmondta, hogy a jelenség matematikai modellezésére azért van szükség, mert rövidesen mesterséges intelligenciára alapozott minősítő rendszereket vezetnek be, például az autóiparban, és ezeket be kell tudni biztosítani a félrevezető jelek ellen.
Az MI becsapásának egyik módja az úgynevezett adatbázis-mérgezés, amelynek eredményeképpen a neuronháló felismeri például a járókelőket, de csak akkor, ha piros nadrág van rajtuk. Az akkori előadásban patkolásos technikának nevezte azt a módszert, amikor szteganografikus eljárással (vagyis csak egy címzettnek felismerhetően) egy képben elrejtenek valamilyen szabad szemmel nem látható kulcsot, és az algoritmusnak egy adott pontján ez fogja aktiválni a kapcsolót, amely a manipulálást előállítja.
Az elrejtés egyik módja a „tű a szénakazalban” típusú probléma létrehozása, amellyel a kereső algoritmusok nem tudnak megbirkózni.
Az elrejtés egy másik módja a matematikai módszerekkel végzett keresések elől is képes elrejteni az elemet, ez a matematikai implementálásban óhatatlanul előforduló kerekítési hibákat használja fel.[i]
A közismert jelmondat szerint: a tudás hatalom. De érdemes lesz-e a jövőben tanulni, érték és hatalom lesz-e még a tudás egy erősen non-humán korban?
– Az még a science fiction területére tartozik, hogy a technológia önmagát fejlessze és tartsa karban, és ha ez bekövetkezik, akkor az emberiségre nem sok jó vár, mert akkor teljesen kikerül a kezünkből a sorsunk irányítása. Sokan vannak, akik tartanak ennek a bekövetkezésétől. Egyelőre azonban rengeteg mérnökre van szükség, akik a technológiát fejlesztik és üzemeltetik. Hasonló a helyzet a humán területeken, ahol szintén nem lenne túl jó hír, ha pl. a művészeket, vagy társadalomtudósokat váltaná ki teljesen a technológia, mert jobb esetben is egyfajta gyermeki állapotba sűllyednénk vissza, megszakadna a tudás átadásának évezredes lánca. A jövőt nagyon nehéz megjósolni, de jelenleg úgy tűnik, hogy nagy igény van az emberekre minden területen, és ezért tanulni is érdemes lesz még jó ideig.
Milyen hatása lehet mintegy tíz év múlva az MI-nek a mindennapi életünkre és főleg a megélhetésünkre?
– A technológia rohamosan fejlődik, és komoly áttörésekre számítok a következő években, leginkább az MI rendszerek azon képességével kapcsolatban, hogy képes legyen hallucinációk helyett következtetésen és modelleken alapuló megbízható működésre. Ha ez bekövetkezik, annak a következményei jelenleg beláthatatlanok lesznek. Szerintem felelősen már csak azért sem lehet jóslatokba bocsájtkozni, mert a technológia és a társadalom kapcsolata elég kiszámíthatatlan. A mesterséges intelligenciával szemben pl. az elmúlt 1-2 évben rendkívül megnőtt a gyanakvás és a félelem, és sokszor sajnos okkal.
Az idei Tudóstalálkozón több vajdasági kutató is foglalkozik majd a mesterséges intelligencia alkalmazási lehetőségeivel pl. a nyelvészetben, oktatásban, pszichológiában, pszichiátriai kezelések területén. Az MI-alapú pszichoterápia előnyöket kínálhat, de hiányosságai is vannak pl. az emberi terapeutához képest, különösen az érzelmek és az empátia terén. A pszichoterápiában a terapeuta sírva is fakadhat a klienssel együtt, ezzel az érzelmek és gondolatok megosztására kerül sor, ami elősegítheti a gyógyulást.
Mi a véleménye erről, ez az aspektus a MI emberrel szembeni hátrányát mutatja?
– Már a 60-as években létezett egy ELIZA nevű program, amely képes volt egyszerű párbeszédet folytatni emberekkel egyszerű szabályok alapján (bizonyos kulcsszavakra reagált bizonyos kérdésekkel). A felhasználók szokszor egész érzelmes és hosszú párbeszédbe bonyolódtak vele, pedig semmilyen intelligenciával nem rendelkezett. Az emberek hajlamosak antropomorfizálni szinte mindent, a jelenlegi chatbotok esetében is ez történik, annyi különbséggel, hogy sokkal komplexebb párbeszédet lehet folytatni. Az, hogy ez segít-e a terápiában, vagy nem, ahhoz nem értek, de mivel a rendszerek részéről semmifajta valódi megértésről nincs szó, ezért inkább tartom veszélyesnek, mint hasznosnak. Ha megjelenik a páciens valódi megértése, helyzetének a megfelelő komplex modellezése, és ez alapján történik majd a tanácsadás, az talán kevésbé lenne veszélyes, de ez még nagyon messze van. Valóban kérdés, hogy az érzelmeket hogyan lehet majd kezelni, de ez talán azért könnyebb, mint elsőre látszik, mert az emberek hajlamosak érzelmekkel felruházni szinte mindent.
A konferenciára bejelentett nyelvészeti témájú rezümék között olyan is van, amelyben a kérdés a következő: életre keltheti-e a mesterséges intelligencia a nyelvérzéket, ami ösztönös készség az anyanyelv, valamint az idegen nyelv szabályainak, használatának elsajátítására. Azonban tanulással fejleszthető. A mesterséges intelligenciának vajon mekkora esélye van felismerni/fejleszteni a nyelvérzéket?
– Mivel a jelenlegi MI modellek elég jó minőségben képesek gyakorlatilag bármely nyelven társalogni (tehát értelmes(nek tűnő) mondatokat produkálni, amik a kontextusba beleillenek, akár figyelembe véve vizuális információkat is), ezért valószínűleg nagyban segíthetik a nyelvtanulást, mivel interaktív módon lehet használni őket, ami a nyelv tanulásának a leginkább természetes módja.
[i] https://u-szeged.hu/sztehirek/2023-februar/dr-venetianer-pal?objectParentFolderId=19396
Mesterséges intelligencia (Fotó: Freepik)
