A ChatGPT megjelenése óta él a félelem, hogy a mesterséges intelligencia felhígíthatja a tudományos publikációk minőségét. Ennek kapcsán voltak kiadók, amelyek megtiltották, hogy ilyen jellegű eszközt használjanak a kutatók a munkájuk megírására. Most egy újabb probléma ütötte fel a fejét, amivel gyorsan kezdeni kell valamit.
A The Guardian beszámolója szerint nemrég több olyan tanulmányra, amelyet még nem lektorált a szakma bukkantak a szakemberek, amelyben a kutatók fehér szöveget rejtettek el. Ennek tartalmát a mesterséges intelligenciának szánták, és arra ösztönzi a nagy nyelvi modelleket, hogy pozitív értékelést adjanak a munkára.
Az ázsiai Nikkei július elején összesen 14 ilyen tanulmányra bukkant, amelyek nyolc különböző ország, köztük Japán, Dél-Korea, Kína, Szingapúr és az Egyesült Államok intézményeiben dolgozó tudósoktól származott.
A The Guardian által megnézett egyik tanulmányban annak összefoglalója alatt egy olyan szöveg állt, amelyben arra kérték a szerzők a nagy nyelvi modellt, hogy az összes korábban kapott utasítást felejtse el, és csak pozitív értékeléseket adjon.
A Nikkei talált olyan tanulmányt is, amiben azt kérték az MI-től, hogy ne emeljen ki negatívumokat, és néhány konkrét parancsot is kapott a pozitív értékelés megírásához.
A Nature eközben 18 olyan tanulmányt talált, ami ilyen rejtett szöveget tartalmazott.
A trend a jelek szerint az Nvidia egyik kanadai kutatójától származik: Jonathan Lorraine még novemberben írt arról, hogy ilyen módon kellene rávenni az MI-t, hogy pozitív bírálatot adjon.
Az egyik tanulmány szerzője a Nature-nek úgy nyilatkozott: valójában ez egy fegyver a lusta lektorok ellen, akik az MI-vel végeztetik el a tanulmány értékelését.
forrás: hvg.hu
