Cequence: AI agenti već samostalno ulaze u korisničke račune, a mnogi se uopće ne predstavljaju kao automatizirani sustavi

Sigurnosna kompanija Cequence objavila je 11. studenoga istraživanje izrađeno uz doprinos singapurskog KPMG-a, upozoravajući na nedostatke nadzora autonomnih AI agenata koji obavljaju transakcije u ime korisnika. Tijekom jednog listopadskog tjedna njezini su istraživači zabilježili više od 250.000 posjeta AI agenata u pet gospodarskih sektora, pri čemu je približno svaki sedmi uključivao prijavu na račun, kupnju, rezervaciju ili upravljanje korisničkim podacima. Kod jednog telekomunikacijskog operatera broj zahtjeva agenata koji nisu otkrivali svoj automatizirani identitet porastao je s približno 100 na čak 32.000 dnevno unutar tri tjedna. Cequence također navodi da su agenti u kontroliranim pokusima pokušavali djelovati izvan dodijeljenih ovlasti u 44 posto izvođenja, što otvara pitanje koliko su postojeće provjere identiteta dovoljne za sustave koji samostalno donose niz povezanih odluka.