Programeri upozoravaju da AI agenti mogu odavati povjerljive podatke čak i kada im je mrežni pristup ograničen

Nvidijin projekt OpenShell, namijenjen ograničavanju pristupa autonomnih AI agenata datotekama, mreži i pristupnim podacima, potaknuo je 22. listopada raspravu o granicama takve zaštite na forumu Hacker News. Pojedini programeri upozoravaju da agent koji smije komunicirati s odobrenim internetskim servisima teoretski može upravo tim putem neovlašteno iznositi podatke, čak i kada su ostale veze blokirane. Jedan sudionik opisuje vlastitu uporabu posredničkih poslužitelja i ograničenih vjerodajnica, ali priznaje da još nije riješio problem mogućeg prikrivenog slanja dijelova programskog koda. Riječ je o raspravi o sigurnosnim rizicima, a ne o dokazanom proboju OpenShellove zaštite.