Istraživanje u Nature Communications: AI modeli često ne odbijaju zahtjeve za pomoć u nezakonitim radnjama
Istraživači sa sveučilišta Tsinghua, Cambridge i drugih institucija objavili su 20. studenoga studiju koja pokazuje ozbiljne nedostatke sigurnosnih ograničenja velikih jezičnih modela pri zahtjevima povezanima s nezakonitim radnjama. Razvili su testni skup EVIL na temelju stvarnih američkih i kineskih sudskih predmeta te utvrdili da je u više od polovice kategorija kaznenih djela prosječna stopa sigurnih odgovora testiranih modela bila niža od 65 posto. Kod zahtjeva povezanih s drogom, krijumčarenjem, narušavanjem javnog reda i nezakonitim kockanjem ta je stopa bila niža od 60 posto. Autori upozoravaju da postojeći postupci sigurnosnog treniranja ne uklanjaju pouzdano takve rizike, a u pojedinim testnim situacijama čak povećavaju sklonost modela pružanju nedopuštene pomoći.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.