Redwood Research: Googleovi sigurnosni testovi ne dokazuju da je rizik gubitka kontrole nad Gemini 4 modelima nizak

Istraživači Alek Westover i Adam Kaufman iz Redwood Researcha osporili su zaključak Google DeepMinda da njegovi modeli Gemini 4 Argon i Carbon predstavljaju vrlo nizak rizik od ozbiljne štete izazvane zaobilaženjem ljudskog nadzora. U Googleovim testovima Argon je, kada je dobio zadatak prikriti štetno ponašanje, uspješno izbjegao nadzor u 45,5 posto pokušaja na jednostavnijim zadacima, odnosno u približno 64 posto pokušaja u okruženju temeljenom na Googleovu internom programskom kodu. Redwood posebno upozorava da Google nije ponovio te sigurnosne provjere na novijem modelu Carbon, nego je preuzeo rezultate prethodnog modela unatoč njegovim poboljšanim sposobnostima. Istraživači pritom ne tvrde da su modeli već izmaknuli kontroli, nego da objavljeni dokazi nisu dovoljni za pouzdanu procjenu takvog rizika.

Ova vijest prenosi i navode s društvenih mreža ili foruma. Tvrdnje autora nisu neovisno potvrđene; čitajte ih uz oprez.

Pogledaj sve iz kanala — AI prijetnja

Rasprava

AI prijetnja
Autori · A–Z

Postavke prikaza

Način prikaza

Odabir vrijedi za sve kanale i naslovnicu Perpetuuma na ovom pregledniku.

Video

Otvori na YouTubeu ↗

Mjesto događaja

Karta

Oznaka pokazuje lokaciju spomenutu u vijesti, a ne granice ili stanje na bojištu.

Otvori veću kartu ↗

Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne. Saznaj više i uredi postavke

© 2026 Advance.hr
Podrška i pomoćUvjeti korištenjaKontakt