Szerbia első, a mesterséges intelligenciára (MI) vonatkozó törvényének előkészítésén dolgozik, amelynek célja a technológia biztonságos és felelős alkalmazásának szabályozása, ugyanakkor a hazai informatikai ágazat további fejlődésének támogatása is. Az új jogszabály a rendszereket kockázati szintjük alapján osztályozza majd, bizonyos alkalmazásokat megtilt, és előírja, hogy a végső döntést minden esetben ember hozza meg – számolt be róla a szerb köztévé (RTS).
Marija Gnjatović, a Tudományos, Technológiai Fejlesztési és Innovációs Minisztérium államtitkára hangsúlyozta, hogy a törvény nem magát a technológiát, hanem az alkalmazásából eredő kockázatokat szabályozza.
Támogassa a független vajdasági magyar újságírást!
Havi 5 euróért reklámmentesen olvashatja portálunkat és a PLUSZ rovat tartalmait.
Tovább az előfizetési oldalra: Kártyás előfizetés (ÚJ) – Banki átutalás vagy Paypal
Az MI-rendszereket a kockázat mértéke alapján sorolják majd be. Azok a modellek például, amelyek az orvosokat segítik diagnózis felállításában, magas kockázatú kategóriába kerülnek, míg a film- vagy tartalomajánló rendszerek alacsony kockázatúnak minősülnek.
„A törvény osztályozni fogja a piacon alkalmazott valamennyi megoldást. A magas kockázatú rendszereket egy külön nyilvántartásba kell majd bejegyezni, míg az alacsony kockázatú rendszerek esetében erre nem lesz szükség” – magyarázta az államtitkár.
Az utolsó szó mindig az emberé
A készülő törvény egyik legfontosabb alapelve, hogy a végső döntést minden esetben ember hozza meg. Fontos ugyanis, hogy a folyamatok átláthatók legyenek, és hogy a döntés ne egy szoftver vagy gép, hanem egy ember kezében maradjon, hangsúlyozta Gnjatović.
Milan Stefanović, a NALED jogi és ellenőrzési tanácsadója szerint a törvény az Európai Unió kockázatalapú szabályozási modelljét követi.
„A jogszabály előírja az emberi felügyeletet és az ember által meghozott döntést. A mesterséges intelligenciát termékként kezeli, a modelleket pedig négy kategóriába sorolja: tiltott, magas, közepes és minimális kockázatú rendszerek. A felügyelet és ellenőrzés mértéke a kockázati szinthez igazodik” – mondta Stefanović.
Tilos lesz a társadalmi pontozás és a bűncselekmények előrejelzése
A szakértő szerint a törvény egyes MI-alkalmazásokat kifejezetten megtilt.
„Ilyen például a polgárok társadalmi rangsorolása. Nem lehet mesterséges intelligenciával eldönteni, hogy valaki „jobb” vagy „rosszabb” ember” – fogalmazott.
Tiltott lesz továbbá olyan rendszerek alkalmazása is, amelyek azt próbálják megjósolni, hogy egy személy elkövet-e bűncselekményt a jövőben, valamint az érzelemfelismerő technológiák használata a munkahelyeken.
„Az érzelemfelismerés bizonyos pszichoterápiás vagy tudományos kutatási célokra megengedett lehet, de munkahelyi környezetben tiltott alkalmazásnak minősül” – tette hozzá Stefanović.
Ezzel szemben azok a rendszerek, amelyeket állásjelentkezők önéletrajzainak elemzésére vagy hitelképesség vizsgálatára használnak, magas kockázatú kategóriába kerülnek, ezért szigorúbb szabályok vonatkoznak majd rájuk és fokozott ellenőrzést igényelnek, hiszen ezek a rendszerek közvetlen hatással vannak az állampolgárok jogaira és lehetőségeire.
Több intézmény felügyeli majd a törvény végrehajtását
Stefanović szerint a felügyeletben központi szerepet kap a Tudományos, Technológiai Fejlesztési és Innovációs Minisztérium, de több más intézmény is részt vesz majd benne.
„A tervek szerint létrejön egy Mesterséges Intelligencia Ügynökség, amely figyelemmel kíséri a törvény alkalmazását, és jogosult lesz egy tesztelés felfüggesztésére, ha incidensről kap bejelentést, vagy ha valamely ellenőrző szerv problémát jelez. A felügyeletben részt vesz majd a piacfelügyelet, a közérdekű információkért és személyes adatok védelméért felelős biztos, valamint az információbiztonsági ellenőrzés is” – mondta.
Gnjatović ugyanakkor hozzátette, hogy az intézményi modell részletei még nem véglegesek.
„Ez egy horizontális, több ágazatot és minisztériumot érintő terület. Éppen ezért komoly kihívást jelent egy hatékony felügyeleti rendszer kialakítása és a megfelelő számú szakember biztosítása” – zárta nyilatkozatát az államtitkár.
A törvény egyes MI-alkalmazásokat kifejezetten megtilt
