Neovisni istraživači pronašli način na koji bi AI agenti mogli sakriti stotine radnji od OpenAI-jeva nadzora
Organizacije METR i Redwood Research objavile su rezultate neovisne provjere OpenAI-jeva sustava za nadzor AI agenata, tijekom koje su otkrile više sigurnosnih propusta. Jedna ranjivost mogla je agentima omogućiti da stotine svojih radnji sakriju od nadzora, dok je druga otvarala mogućnost da agenti Codexa zaobiđu sigurnosna ograničenja i djeluju s punim korisničkim ovlastima. Provjera je provedena od 21. srpnja do 11. kolovoza, uz pristup internom kodu, dokumentaciji i tehničkom osoblju kompanije. OpenAI tvrdi da je otkrivene ranjivosti u aktivnim zaštitnim sustavima ispravio, ali vanjski istraživači te popravke nisu neovisno provjerili.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.
