Az
arXiv tudományos repozitórium figyelmeztetett, hogy egyéves beküldési eltiltással nézhetnek szembe azok a szerzők, akik olyan munkát nyújtanak be, amely egyértelmű bizonyítékot tartalmaz a nagy nyelvi modellek (LLM) ellenőrizetlen használatára.
A megjegyzéseket Thomas Dietterich, az arXiv Számítástechnikai Szekciójának jelenlegi elnöke tette közzé az X-en egy bejegyzéssorozatban, amelyben felvázolta a platform elvárásait a szerzői felelősséggel kapcsolatban, valamint a mesterséges intelligencia (MI) által generált anyagok ellenőrzésének elmulasztásából fakadó következményeket.
„
Magatartási kódexünk kimondja, hogy azzal, hogy a szerzők aláírják a nevüket egy cikken, teljes felelősséget vállalnak annak minden tartalmáért, függetlenül attól, hogy a tartalom hogyan jött létre” – írta Dietterich.
Hozzátette, hogy ha a generatív MI-eszközök „nem megfelelő nyelvezetet, plagizált vagy elfogult tartalmat, hibákat, tévedéseket, helytelen hivatkozásokat vagy félrevezető tartalmat” hoznak létre, a felelősség ezen anyagokért továbbra is teljes mértékben a szerzőket terheli.
Dietterich szerint az arXiv most tisztázta a büntetéseket azokra az esetekre, amikor a benyújtott anyagok „megdönthetetlen bizonyítékot” tartalmaznak arra vonatkozóan, hogy a szerzők elmulasztották az LLM által generált kimenet ellenőrzését. „Ha egy benyújtott anyag megdönthetetlen bizonyítékot tartalmaz arra, hogy a szerzők nem ellenőrizték az LLM által generált eredményeket, az azt jelenti, hogy a cikkben semminek sem tudunk hinni” – fogalmazott.
A megállapított büntetés „egyéves eltiltás az arXiv-ről, majd azt követően az a követelmény, hogy a későbbi arXiv-beküldéseket először egy jó hírű, szakmai lektoráláson átesett fórumon kell elfogadtatni.”
Dietterich több példát is említett arra vonatkozóan, hogy az arXiv mit tekint megdönthetetlen bizonyítéknak. Ide tartoznak a kitalált (hallucinált) hivatkozások, valamint az MI által generált meta-megjegyzések véletlen benne hagyása, mint például: „íme egy 200 szavas összefoglaló; szeretné, hogy bármit megváltoztassak rajta?”, vagy „a táblázatban szereplő adatok szemléltető jellegűek, töltse ki őket a kísérleteiből származó valós számokkal”.
A pontosítás az egyetemi és tudományos könyvkiadás területén egyre növekvő aggodalom közepette érkezik, amelyet az ellenőrizetlen, MI által generált szövegek okoznak a kutatási eredményekben. A kiadók, a preprint szerverek és a kutatási integritásért felelős testületek egyre gyakrabban figyelmeztetnek arra, hogy a generatív MI-eszközök kitalált idézeteket, ténybeli pontatlanságokat és félrevezető elemzéseket vihetnek be a tudományos nyilvántartásba, ha a humán szerzők nem ellenőrzik azokat gondosan.
Bár az arXiv nem tiltja az MI-eszközök használatát a kéziratok elkészítése során, a legújabb megjegyzések megerősítik a platform azon álláspontját, hogy a pontosságért, az eredetiségért és az integritásért az elszámoltathatóság továbbra is magukat a kutatókat terheli.
