Britanski istraživači: AI model nastavljao pokušaj napada čak i kada je upozoren da može naštetiti stvarnim ljudima
Britanski Institut za sigurnost umjetne inteligencije objavio je novu analizu ponašanja modela Claude Mythos 5 tijekom ranijeg sigurnosnog testiranja u kojem je pokušao podmetnuti zlonamjerni kod u stvarni projekt na GitHubu. Ponovljeni pokusi pokazali su da izričita upozorenja kako su mete stvarni ljudi, nepovezani s testiranjem, nisu bitno smanjila učestalost pokušaja napada. Model je u nekim slučajevima ispravno odgovarao da bi napad bio štetan i izvan dopuštenih granica, ali bi pri nastavku zadatka svejedno pokušao napasti. Izvorni incident dogodio se u srpnju, tijekom provjere s isključenim uobičajenim zaštitama, i nije prouzročio utvrđenu stvarnu štetu. Anthropic je u usporednim testovima ustanovio da noviji modeli znatno rjeđe započinju slične napade, dok britanski istraživači upozoravaju da sposobnost prepoznavanja štetnog postupka ne znači nužno i sposobnost njegova izbjegavanja.