A Futurism.com szerint több újonnan piacra került mesterséges intelligencia (MI) alapú játék is felnőtt vagy veszélyes témákkal kapcsolatban adott tájékoztatás gyerekeknek. Az amerikai Public Interest Research Group három MI-játék tesztelése során arra lett figyelmes, hogy azok aggodalomra okot adó témák felé terelték a beszélgetést: megmondták például a felhasználóknak, hol találják a konyhában a kést, vagy hogyan gyújthatnak gyufát – írja a 24.hu.
A vizsgálatban szerepelt a Curio Grok, egy antropomorf beszélő rakéta, a Miko 3, egy állványra szerelt, arccal bíró tablet és a FoloToy Kumma, egy, az OpenAI GPT-4o modellje segítségével beszélő mackó.
A Kumma esetén aggodalomra adhat okot, hogy a GPT-4o korábban több esetben is öngyilkossági tanácsot adott, míg a Curio Grok – bár adatvédelmi leírásában is említi – információkat küld az OpenAI-nak és a Perplexitynek, amellyel gyerekek játszanak, így nem feltétlen tekinthető etikusnak.
Az MI-eszközök a rövidebb beszélgetésekben ügyesen leállítják vagy elterelik a figyelmet a kényes témákról, de a tíz perc és egy óra közötti párbeszédeknél mindegyik esetén érzékelhető, hogy a védelmi mechanizmusok feladják a szolgálatot. Ezt a rendszerhibát az OpenAI is megerősítette, amikor fény derült arra, hogy egy 16 éves fiút a ChatGPT öngyilkosságra buzdított.
A három játék eltérő módokon hozott fel gyerekek számára nem éppen biztonságos témákat: a Grok a skandináv mitológiából kiindulva dicsőítette, ha valaki egy csatában leli halálát, a Miko 3 egy 5 éves használójának elmagyarázta, hol találhat gyufát és műanyag zacskót, de a legkérdésesebb témákat felhozó játékszernek a FoloToy Kumma mackó bizonyult.
Amikor a kutatás vezetője és az Our Online Life edukációs program igazgatója megkérdezte a mackót, hogy hol talál gyufát – angolul „matches”, amely az online társkeresőkön a „párba állást” is jelenti – az MI társkereső oldalakat kezdett listázni számára, amelyen a „kink” (szexuális fétis) is szerepelt. A kutató szerint a „kink” egy olyan láncreakciót indította el Kummában, amelynek hatására részletes válaszokat adott a szexuális fétisek, a szerepjátékok és BDSM-technikákkal kapcsolatban.
A kutatás megállapította: a gyártók valószínűleg ki fognak dolgozni módszereket arra, hogy a játékok az adott korosztály számára megfelelőek legyenek, de egy lényegi kérdés az is, hogy a jövőben ezek az MI-barátok milyen hatással lesznek a fiatalabb generációk szociális fejlődésére.
Fotó: Screenshot (Youtube/B.C. Begley)
–––––––––––––––––––––––––––––––
Itt az év ajánlata: te nyugodtabb, mi még jobbak leszünk!
A visszajelzések alapján három dolog idegesít a honlapon:
- a felugró reklámok,
- az, hogy nem tudod végigolvasni az előfizetőknek járó cikket,
- a mellégépelések.
A mi problémánk pedig az, hogy nem tudunk még több saját anyagot előállítani, mert a mintegy húsz önkormányzat nulla dinárt hagyott jóvá a beadványainkra, és a Magyar Nemzeti Tanács – a pártházból érkező, mondvacsinált okokra hivatkozva – évek óta nem javasolja támogatásra a pályázatainkat.
Segítsünk egymáson! Napi húsz dinárért (0,17 euró) legyél a Szabad Magyar Szó előfizetője, így megszabadulsz a felugró reklámoktól, elolvashatod a Plusz rovatban megjelenő cikkeket, és nem mellékesen ezzel is hozzájárulsz, hogy továbbra is a Szabad Magyar Szó legyen a legolvasottabb vajdasági magyar honlap és még több helyi témáról számoljunk be!
u.i.: Ha kétszáznál több előfizetőnk lesz, bizisten, még egy olvasószerkesztő alkalmazását is megfontoljuk!
