Kineski istraživači upozoravaju na začarani krug AI dezinformacija: Pogrešni podaci mogu ponovno završiti u učenju modela
Istraživači Zhang Xing i Xu Yiteng sa Sveučilišta Zhengzhou objavili su 22. listopada stručni rad koji upozorava da onečišćenje podataka velikih jezičnih modela može prerasti u dugotrajan problem pouzdanosti i sigurnosti. Razlikuju namjerno podmetanje podataka, kojim napadači mogu usmjeravati ponašanje modela, od širenja netočnih i pristranih informacija kroz njihove odgovore. Poseban je rizik povratna petlja u kojoj se AI-generirane pogreške dalje šire i ponovno uključuju u podatke za treniranje, čime se nepouzdane informacije mogu učvrstiti. Autori predlažu stroži nadzor izvora podataka, otpornije modele i koordinaciju tehničkih i regulatornih mjera, ali ne predstavljaju novo eksperimentalno mjerenje raširenosti tog problema.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.
