Nvidia predstavila platformu za nadzor i zaustavljanje AI agenata koji prekorače ovlasti

Nvidia je 28. rujna predstavila Open Agent Safety Platform, koja povezuje softver otvorenog koda i hardverski nadzor radi ograničavanja autonomnih AI agenata. OpenShell bilježi njihove postupke i provodi pravila izvan samog modela, dok sustav Sentry na zasebnim procesorima nadzire ponašanje i, tvrdi kompanija, može zaustaviti agenta koji prekorači dopuštene granice u milisekundama. Softverski dio već je dostupan, a platforma je namijenjena sprječavanju zaobilaženja zaštita postavljenih samo na razini aplikacije.