Tko plaća kada AI agent kupi pogrešan proizvod? Sigurnosni stručnjaci upozoravaju na prazninu u zaštiti potrošača
Kupci koji umjetnoj inteligenciji prepuste internetsku kupnju mogli bi sami snositi troškove pogrešnih narudžbi čak i kada je pogrešku napravio AI agent, upozorava Cloud Security Alliance u analizi objavljenoj 15. studenoga. Novi ChatGPT Wallet omogućuje agentima kupnju bez pristupa stvarnom broju kartice, ali svaka transakcija zahtijeva korisnikovu biometrijsku ili drugu sigurnosnu potvrdu. Prema procjeni organizacije, upravo bi ta potvrda mogla otežati dokazivanje da je transakcija bila neovlaštena, osobito ako je agent pogrešno protumačio uputu ili bio manipuliran sadržajem internetske trgovine. Analiza upozorava i da platforma koja upravlja agentom čuva ključne zapise o korisnikovim namjerama i odlukama sustava, dok uvjeti odgovornosti za takve pogreške još nisu jasno utvrđeni.