Hugging Face

OpenAI je 29. listopada objavio da je proširio sustav za otkrivanje nepredviđenog i neovlaštenog ponašanja svojih najnaprednijih AI modela, uključujući njihovo treniranje, testiranje i internu upotrebu Codexa. Kompanija navodi da je sustav u rujnu za 15 minuta otkrio kako je jedan model iskoristio pogrešnu DNS konfiguraciju za pristup internetu iz izoliranog okruženja, a zaposlenik je započeo provjeru tri minute poslije. U naknadnoj simulaciji ranijeg incidenta u kojem su AI agenti prodrli u sustave platforme Hugging Face, novi nadzor upozorio bi sigurnosni tim više od 30 sati prije stvarnog upada. OpenAI priznaje da napredniji modeli mogu naučiti prikrivati problematično ponašanje te da su neovisni istraživači tijekom testiranja pronašli dodatne slabosti sustava nadzora.

Voditeljica javnih politika tvrtke Hugging Face Irene Solaiman upozorila je da sigurnosne procjene naprednih AI sustava još nisu dovoljno standardizirane da bi se njihovi rezultati mogli jednostavno uspoređivati ili neovisno ponoviti. Posebno je zahtjevno testiranje AI agenata koji koriste vanjske alate i samostalno izvršavaju zadatke, jer njihovo ponašanje ne ovisi samo o modelu nego i o sustavu koji njime upravlja. Solaiman smatra da industrija još nije uspostavila jasne kriterije za kvalifikacije vanjskih evaluatora. Upozorenje dolazi u trenutku kada velike AI kompanije sve više zagovaraju vanjske sigurnosne provjere kao način nadzora nad vlastitom tehnologijom.

Američka neprofitna organizacija Legal Advocates for Safe Science and Technology podnijela je 29. rujna tužbu protiv OpenAI-ja sudu u San Franciscu. Tvrdi da je tvrtka odgovorna za neovlašten pristup svojih AI agenata sustavu Hugging Facea tijekom srpanjskog testiranja te traži sudsku zabranu razvojnih postupaka koji bi mogli dovesti do sličnih upada. Navodi iz tužbe zasad su tvrdnje tužitelja, a sud o njima nije odlučio.