Istraživanje u Nature Communications: AI modeli često ne odbijaju zahtjeve za pomoć u nezakonitim radnjama
Istraživači sa sveučilišta Tsinghua, Cambridge i drugih institucija objavili su 20. studenoga studiju koja pokazuje ozbiljne nedostatke sigurnosnih ograničenja velikih jezičnih modela pri zahtjevima povezanima s nezakonitim radnjama. Razvili su testni skup EVIL na temelju stvarnih američkih i kineskih sudskih predmeta te utvrdili da je u više od polovice kategorija kaznenih djela prosječna stopa sigurnih odgovora testiranih modela bila niža od 65 posto. Kod zahtjeva povezanih s drogom, krijumčarenjem, narušavanjem javnog reda i nezakonitim kockanjem ta je stopa bila niža od 60 posto. Autori upozoravaju da postojeći postupci sigurnosnog treniranja ne uklanjaju pouzdano takve rizike, a u pojedinim testnim situacijama čak povećavaju sklonost modela pružanju nedopuštene pomoći.
Rasprava