A ChatGPT képes hibátlan, szépen megfogalmazott emberi szöveget generál bármiről, amire megkérik. A mesterséges intelligencia tudása miatt megkondult a harang az újságírószakma felett, míg Elon Musk és sokan mások temették az iskolai és egyetemi fogalmazásokat, illetve esszéket, amiket immár egy perc alatt megír helyettünk a szoftver.

Azonban ez nem ilyen egyszerű, hiszen mint kiderült, a közönség és a tanár elég gyorsan kiszúrhatja a generált szöveget. A Vice által megszólaltatott egyetemi professzorok elmondták, hogy pár találkozás után már gyorsan kiszúrják, hogy generált szöveget olvasnak. A probléma ott kezdődik, hogy a mesterséges intelligencia által írt dolgozatok egyszerűen rosszak.

Az első jel, hogy a helyesen megírt mondatok ellenére valahogy nem volt értelme az esszének

– mondta Darren Hicks, a Furman Egyetem filozófiaprofesszora. Egy másik szakember úgy fogalmazott, hogy a mondatok külön értelmesek voltak, de a szövegnek nem volt se füle, se farka, ugyanakkor idegtépően hosszú volt. Nonszensz dolgokat a valódi diákok is írnak, de azok rájuk jellemző idioszinkretikus, ha úgy tetszik, gyerekes hibák. A ChatGPT ezek helyett közhelyekkel teli dagályos tirádákat produkál.

A különbség olyan, mintha rendelnél egy ételt az étteremben, vagy inkább megkapnád helyette az egész menüt egy levessé turmixolva. Az utóbbi nem annyira gusztusos

– fogalmazott Bret Devereaux, az Észak-Karolinai Egyetem történelemtanára.
De van nagyobb probléma is: a ChatGPT hajlamos improvizálni, blöffölni, ha úgy tetszik, adatokat hallucinálni. Adott esetben a szakterület nem létező szerzőinek nem létező munkáira hivatkozik. Diák legyen a talpán, aki egy órával leadás előtt kiszűri ezeket.

Amit a ChatGPT művel, az tényleg gépi fogalmazás, a szövegei nem akadnak fenn a plágiumszűrő szoftvereken. Ahhoz azonban, hogy a tanárokat is becsapják, a diákoknak többet kell molyolniuk a szövegekkel. A tanárok természetesen már létrehozták a saját online csoportjaikat, ahol megosztják, miről lehet rögtön felismerni a kamuesszét. A fejlesztők eközben nem tudják pontosan, hogy lehetne elérni, hogy a nyelvi modellek kicsit jobban ismerjék saját tudásuk határait, és kicsit tényszerűbbek legyenek.