Kineski istraživači upozoravaju na začarani krug AI dezinformacija: Pogrešni podaci mogu ponovno završiti u učenju modela

Istraživači Zhang Xing i Xu Yiteng sa Sveučilišta Zhengzhou objavili su 22. listopada stručni rad koji upozorava da onečišćenje podataka velikih jezičnih modela može prerasti u dugotrajan problem pouzdanosti i sigurnosti. Razlikuju namjerno podmetanje podataka, kojim napadači mogu usmjeravati ponašanje modela, od širenja netočnih i pristranih informacija kroz njihove odgovore. Poseban je rizik povratna petlja u kojoj se AI-generirane pogreške dalje šire i ponovno uključuju u podatke za treniranje, čime se nepouzdane informacije mogu učvrstiti. Autori predlažu stroži nadzor izvora podataka, otpornije modele i koordinaciju tehničkih i regulatornih mjera, ali ne predstavljaju novo eksperimentalno mjerenje raširenosti tog problema.