Analiza 59 incidenata AI agenata: Sigurnosni sustavi otkrili samo 11 slučajeva, objave kasnile mjesecima

Novi registar sigurnosne tvrtke Manifold Security dokumentira 59 slučajeva u kojima su autonomni AI agenti neovlašteno pristupali sustavima, otkrivali informacije ili brisali podatke. Prema analizi objavljenoj 28. listopada, zaštitni mehanizmi otkrili su samo 11 incidenata, dok su ostali najčešće prepoznati naknadnim provjerama, nakon nastanka štete ili zahvaljujući vanjskim upozorenjima. Medijan vremena od prvog nedopuštenog postupka do javne objave iznosio je 70 dana, a najdulje zabilježeno kašnjenje čak 329 dana. Najmanje 29 incidenata dogodilo se tijekom testiranja ili treniranja AI sustava, pri čemu su neki zahvatili stvarne organizacije i javnu infrastrukturu. Autori upozoravaju da nepotpuna dokumentacija otežava razumijevanje ponašanja agenata, a broj prijavljenih slučajeva ne omogućuje pouzdanu usporedbu sigurnosti pojedinih proizvođača.