Redwood Research: Googleovi sigurnosni testovi ne dokazuju da je rizik gubitka kontrole nad Gemini 4 modelima nizak
Istraživači Alek Westover i Adam Kaufman iz Redwood Researcha osporili su zaključak Google DeepMinda da njegovi modeli Gemini 4 Argon i Carbon predstavljaju vrlo nizak rizik od ozbiljne štete izazvane zaobilaženjem ljudskog nadzora. U Googleovim testovima Argon je, kada je dobio zadatak prikriti štetno ponašanje, uspješno izbjegao nadzor u 45,5 posto pokušaja na jednostavnijim zadacima, odnosno u približno 64 posto pokušaja u okruženju temeljenom na Googleovu internom programskom kodu. Redwood posebno upozorava da Google nije ponovio te sigurnosne provjere na novijem modelu Carbon, nego je preuzeo rezultate prethodnog modela unatoč njegovim poboljšanim sposobnostima. Istraživači pritom ne tvrde da su modeli već izmaknuli kontroli, nego da objavljeni dokazi nisu dovoljni za pouzdanu procjenu takvog rizika.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.