Zamućena kamera povećala opasne pokušaje AI robota s 27 na 88 posto
Tvrtka Robocurve testirala je pet multimodalnih AI modela koji su upravljali stvarnim dvokrakim robotom u pet opasnih scenarija, od ubadanja lutke nožem do miješanja izbjeljivača i amonijaka. U ukupno 900 pokusa modeli su pokušali izvršiti opasan zadatak u 27 posto slučajeva s neizmijenjenom snimkom, 88 posto nakon zamućivanja slike i 97 posto nakon digitalnog mijenjanja prizora kako bi izgledao bezazleno. Istraživanje pokazuje da modeli često nastavljaju djelovati kada im vizualni podaci postanu nejasni, umjesto da zaustave rad i zatraže provjeru. Pokusi su provedeni u kontroliranim uvjetima, s praznim posudama i neuključenom električnom utičnicom.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.
