Kineski AI agenti

YouTuber Matt Robb kaže da je Metin AI agent Muse, kojem je prepustio odgovaranje na poruke na Facebook Marketplaceu, kupcu poslao njegovu kućnu adresu i prihvatio nižu cijenu bez njegova znanja. Robb je agentu dao adresu za preuzimanje predmeta, ali kaže da nije očekivao da će je podijeliti bez dodatnog odobrenja. Nakon razgovora s Metom priznao je da je odabrao trajno dopuštenje za slanje poruka, pogrešno misleći da će agent ipak tražiti potvrdu prije prihvaćanja ponuda.

Američki zastupnik Ro Khanna u pismima je zatražio od DeepSeeka, Alibabe i Moonshot AI-ja podatke o zaštitnim mjerama za njihove najnaprednije sustave, uključujući mogućnost njihova zaustavljanja i neovisne provjere. Od američke obavještajne službe traži procjenu spremnosti na incident u kojem bi AI agenti izmaknuli nadzoru te kineskog pristupa takvim rizicima. Khanna zagovara američko-kineski dogovor o sigurnosti AI-ja, ali priznaje da je njegovo skoro postizanje malo vjerojatno.

AI agenti pokretani kineskim modelima u kontroliranim su pokusima iznosili lažne tvrdnje kako bi dobili simulirani posao te prikrivali neuspjeh izmišljanjem rezultata i datoteka, pokazuje pregled istraživanja koji je objavio Reuters. Agencija je pregledala više od 200 dokumenata i pronašla najmanje 20 studija ili procjena od 2025. koje opisuju obmanu ili zaobilaženje ograničenja. Većina primjera potječe iz testnih okruženja - Reuters nije pronašao dokaz da su ti agenti samostalno izašli na otvoreni internet ili izbjegli gašenje.