Redwood Research: Googleovi sigurnosni testovi ne dokazuju da je rizik gubitka kontrole nad Gemini 4 modelima nizak
Istraživači Alek Westover i Adam Kaufman iz Redwood Researcha osporili su zaključak Google DeepMinda da njegovi modeli Gemini 4 Argon i Carbon predstavljaju vrlo nizak rizik od ozbiljne štete izazvane zaobilaženjem ljudskog nadzora. U Googleovim testovima Argon je, kada je dobio zadatak prikriti štetno ponašanje, uspješno izbjegao nadzor u 45,5 posto pokušaja na jednostavnijim zadacima, odnosno u približno 64 posto pokušaja u okruženju temeljenom na Googleovu internom programskom kodu. Redwood posebno upozorava da Google nije ponovio te sigurnosne provjere na novijem modelu Carbon, nego je preuzeo rezultate prethodnog modela unatoč njegovim poboljšanim sposobnostima. Istraživači pritom ne tvrde da su modeli već izmaknuli kontroli, nego da objavljeni dokazi nisu dovoljni za pouzdanu procjenu takvog rizika.
Rasprava