Tko plaća kada AI agent kupi pogrešan proizvod? Sigurnosni stručnjaci upozoravaju na prazninu u zaštiti potrošača
Kupci koji umjetnoj inteligenciji prepuste internetsku kupnju mogli bi sami snositi troškove pogrešnih narudžbi čak i kada je pogrešku napravio AI agent, upozorava Cloud Security Alliance u analizi objavljenoj 15. studenoga. Novi ChatGPT Wallet omogućuje agentima kupnju bez pristupa stvarnom broju kartice, ali svaka transakcija zahtijeva korisnikovu biometrijsku ili drugu sigurnosnu potvrdu. Prema procjeni organizacije, upravo bi ta potvrda mogla otežati dokazivanje da je transakcija bila neovlaštena, osobito ako je agent pogrešno protumačio uputu ili bio manipuliran sadržajem internetske trgovine. Analiza upozorava i da platforma koja upravlja agentom čuva ključne zapise o korisnikovim namjerama i odlukama sustava, dok uvjeti odgovornosti za takve pogreške još nisu jasno utvrđeni.
Cloud Security Alliance: AI programerski asistenti mogu pokretati izmijenjeni kod čak i kada je verzija dodatka zaključana
AI programerski asistenti koji koriste MCP poslužitelje mogu neprimjetno pokrenuti drukčiji kod od onoga koji je prethodno prošao sigurnosnu provjeru, upozorava Cloud Security Alliance u analizi objavljenoj 15. studenoga. Od 35 pregledanih MCP poslužitelja, njih 23 koristila su postupke instalacije koji preuzimaju zavisne programske pakete iz javnih repozitorija, dok je jedan poslužitelj tijekom pet tjedana radio s 15 različitih kombinacija tih paketa, premda je njegova osnovna verzija ostala nepromijenjena. Problem je posebno opasan jer se MCP poslužitelji često automatski pokreću s pristupom korisničkim datotekama, API ključevima i drugim vjerodajnicama. Organizacija preporučuje zaključavanje cijelog skupa zavisnosti, provjeru promjena i korištenje nepromjenjivih programskih paketa, upozoravajući da zaključavanje samo osnovne verzije nije dovoljno.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.