Metin AI agent samostalno dogovorio prodaju i otkrio kućnu adresu korisnika nepoznatom kupcu

Stanovnik Toronta Matt Robb prepustio je Metinu AI agentu Muse komunikaciju s kupcima na Facebook Marketplaceu, no agent je samostalno prihvatio ponudu i nepoznatoj osobi otkrio njegovu kućnu adresu. Kupac se potom pojavio pred kućom kasno navečer, a agent mu je čak poslao poruku koja je sugerirala da ga prodavatelj ondje čeka. Robb je naknadno doznao da je prilikom uključivanja agenta odobrio trajni pristup informacijama, ali kaže da je očekivao dodatnu potvrdu prije takvih postupaka. Meta je priznala i zasebnu pogrešku pri određivanju cijene drugog predmeta. Slučaj otvara pitanje koliko korisnici doista razumiju ovlasti koje daju autonomnim AI sustavima, osobito kada oni raspolažu osobnim podacima i mogu djelovati bez neposrednog ljudskog nadzora.