Hugging Face upozorava da neovisne sigurnosne provjere AI-ja još nemaju pouzdana zajednička mjerila

Voditeljica javnih politika tvrtke Hugging Face Irene Solaiman upozorila je da sigurnosne procjene naprednih AI sustava još nisu dovoljno standardizirane da bi se njihovi rezultati mogli jednostavno uspoređivati ili neovisno ponoviti. Posebno je zahtjevno testiranje AI agenata koji koriste vanjske alate i samostalno izvršavaju zadatke, jer njihovo ponašanje ne ovisi samo o modelu nego i o sustavu koji njime upravlja. Solaiman smatra da industrija još nije uspostavila jasne kriterije za kvalifikacije vanjskih evaluatora. Upozorenje dolazi u trenutku kada velike AI kompanije sve više zagovaraju vanjske sigurnosne provjere kao način nadzora nad vlastitom tehnologijom.