Tema u Perpetuumu

Sabotaža AI istraživanja

Najnovije

21.11.2026.

Redwood Research: Ljudski revizori teško otkrivaju namjerno sabotirana istraživanja sigurnosti AI-ja

Istraživačka organizacija Redwood Research objavila je eksperiment u kojem je stručnjak namjerno mijenjao rezultate istraživanja sigurnosti umjetne inteligencije, a revizori su pokušavali otkriti podmetnute nepravilnosti. Među 22 istraživačka zapisa bilo je 12 sabotiranih, no 25 ljudskih revizora, unatoč pristupu cjelokupnoj dokumentaciji i mogućnosti dodatnih eksperimenata, potpuno je prepoznalo samo 17 posto pojedinačnih mehanizama sabotaže na koje su naišli. Napredni AI modeli pokazali su nešto bolje rezultate, ali su također propustili većinu podmetnutih nepravilnosti. Autori upozoravaju da bi s rastom automatizacije znanstvenog rada zlonamjerno ili neusklađeno ponašanje AI sustava moglo ostati prikriveno čak i kada su istraživački postupci dokumentirani, uz napomenu da je riječ o ograničenom eksperimentu s ljudskim saboterom, a ne o dokazanom stvarnom napadu autonomnog AI-ja.

Nastavak kronologije

Prikazani su svi događaji za ovaj odabir.

O izvorima i perspektivama

Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.

Postavke prikaza

Način prikaza

Odabir vrijedi za sve kanale i naslovnicu Perpetuuma na ovom pregledniku.

Video

Otvori na YouTubeu ↗

Mjesto događaja

Karta

Oznaka pokazuje lokaciju spomenutu u vijesti, a ne granice ili stanje na bojištu.

Otvori veću kartu ↗

Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne. Saznaj više i uredi postavke

© 2026 Advance.hr
Podrška i pomoćUvjeti korištenjaKontakt