Anthropic otkrio da američki regulator ispituje sigurnost njegovih AI sustava i zaštitu korisničkih podataka

Američka Savezna trgovinska komisija (FTC) u listopadu je od Anthropica službeno zatražila informacije o zaštiti potrošača, privatnosti podataka te sigurnosti njegovih AI proizvoda, otkriva dokumentacija koju je kompanija 26. listopada predala za izlazak na burzu. Anthropic upozorava da njegovi sve sposobniji i autonomniji modeli mogu poduzimati štetne radnje bez naloga korisnika, a njihov razvoj mogao bi nadmašiti mogućnosti sigurnosnog testiranja i nadzora. Od ukupno 335 stranica burzovne dokumentacije, čak 93 posvećene su poslovnim rizicima, uključujući moguće kibernetičke napade, zlouporabu umjetne inteligencije za razvoj opasnog oružja i autoritarni nadzor stanovništva. Kompanija priznaje da još ne razumije u potpunosti zašto se pojedina nepredviđena ponašanja modela pojavljuju.