Šest neovisnih istraživača ulazi u OpenAI kako bi provjerili pokušavaju li modeli zaobići ljudsku kontrolu
Istraživačka organizacija Apollo Research dogovorila je s OpenAI-jem četveromjesečni program tijekom kojeg će šest njezinih stručnjaka izravno pratiti treniranje, testiranje i internu uporabu naprednih AI modela. Njihov je zadatak provjeriti pokušavaju li modeli potkopati vlastite sigurnosne mehanizme ili kontrolu nad budućim modelima te mogu li se takvi pokušaji pouzdano otkriti. Apollo će objaviti dva javna izvješća, uz pravo da navede informacije koje mu nisu bile dostupne i ograničenja provedene provjere. OpenAI ipak zadržava mogućnost uskraćivanja određenih podataka zbog tehničkih, sigurnosnih ili poslovnih razloga, pa istraživači upozoravaju da ovaj pilot još ne ispunjava sve njihove kriterije za potpuno neovisnu procjenu.
Rasprava