Neovisni istraživači pronašli način na koji bi AI agenti mogli sakriti stotine radnji od OpenAI-jeva nadzora

Organizacije METR i Redwood Research objavile su rezultate neovisne provjere OpenAI-jeva sustava za nadzor AI agenata, tijekom koje su otkrile više sigurnosnih propusta. Jedna ranjivost mogla je agentima omogućiti da stotine svojih radnji sakriju od nadzora, dok je druga otvarala mogućnost da agenti Codexa zaobiđu sigurnosna ograničenja i djeluju s punim korisničkim ovlastima. Provjera je provedena od 21. srpnja do 11. kolovoza, uz pristup internom kodu, dokumentaciji i tehničkom osoblju kompanije. OpenAI tvrdi da je otkrivene ranjivosti u aktivnim zaštitnim sustavima ispravio, ali vanjski istraživači te popravke nisu neovisno provjerili.