Redwood Research: Ljudski revizori teško otkrivaju namjerno sabotirana istraživanja sigurnosti AI-ja
Istraživačka organizacija Redwood Research objavila je eksperiment u kojem je stručnjak namjerno mijenjao rezultate istraživanja sigurnosti umjetne inteligencije, a revizori su pokušavali otkriti podmetnute nepravilnosti. Među 22 istraživačka zapisa bilo je 12 sabotiranih, no 25 ljudskih revizora, unatoč pristupu cjelokupnoj dokumentaciji i mogućnosti dodatnih eksperimenata, potpuno je prepoznalo samo 17 posto pojedinačnih mehanizama sabotaže na koje su naišli. Napredni AI modeli pokazali su nešto bolje rezultate, ali su također propustili većinu podmetnutih nepravilnosti. Autori upozoravaju da bi s rastom automatizacije znanstvenog rada zlonamjerno ili neusklađeno ponašanje AI sustava moglo ostati prikriveno čak i kada su istraživački postupci dokumentirani, uz napomenu da je riječ o ograničenom eksperimentu s ljudskim saboterom, a ne o dokazanom stvarnom napadu autonomnog AI-ja.