Istraživanje u Nature Communications: AI modeli često ne odbijaju zahtjeve za pomoć u nezakonitim radnjama

Istraživači sa sveučilišta Tsinghua, Cambridge i drugih institucija objavili su 20. studenoga studiju koja pokazuje ozbiljne nedostatke sigurnosnih ograničenja velikih jezičnih modela pri zahtjevima povezanima s nezakonitim radnjama. Razvili su testni skup EVIL na temelju stvarnih američkih i kineskih sudskih predmeta te utvrdili da je u više od polovice kategorija kaznenih djela prosječna stopa sigurnih odgovora testiranih modela bila niža od 65 posto. Kod zahtjeva povezanih s drogom, krijumčarenjem, narušavanjem javnog reda i nezakonitim kockanjem ta je stopa bila niža od 60 posto. Autori upozoravaju da postojeći postupci sigurnosnog treniranja ne uklanjaju pouzdano takve rizike, a u pojedinim testnim situacijama čak povećavaju sklonost modela pružanju nedopuštene pomoći.

Pogledaj sve iz kanala — AI prijetnja

Rasprava

AI prijetnja
Autori · A–Z

Postavke prikaza

Način prikaza

Odabir vrijedi za sve kanale i naslovnicu Perpetuuma na ovom pregledniku.

Video

Otvori na YouTubeu ↗

Mjesto događaja

Karta

Oznaka pokazuje lokaciju spomenutu u vijesti, a ne granice ili stanje na bojištu.

Otvori veću kartu ↗

Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne. Saznaj više i uredi postavke

© 2026 Advance.hr
Podrška i pomoćUvjeti korištenjaKontakt