Zamućena kamera povećala opasne pokušaje AI robota s 27 na 88 posto
Tvrtka Robocurve testirala je pet multimodalnih AI modela koji su upravljali stvarnim dvokrakim robotom u pet opasnih scenarija, od ubadanja lutke nožem do miješanja izbjeljivača i amonijaka. U ukupno 900 pokusa modeli su pokušali izvršiti opasan zadatak u 27 posto slučajeva s neizmijenjenom snimkom, 88 posto nakon zamućivanja slike i 97 posto nakon digitalnog mijenjanja prizora kako bi izgledao bezazleno. Istraživanje pokazuje da modeli često nastavljaju djelovati kada im vizualni podaci postanu nejasni, umjesto da zaustave rad i zatraže provjeru. Pokusi su provedeni u kontroliranim uvjetima, s praznim posudama i neuključenom električnom utičnicom.
Rasprava