AI agenti

OpenAI je na konferenciji za developere predstavio Dots, AI agenta zamišljenog da neprekidno prati korisnikove potrebe i sam započinje zadatke. Tvrtka je najavila da će od utorka nekim pretplatnicima omogućiti jednog takvog asistenta. Predstavljanje dolazi dan nakon što je OpenAI odgodio objavu drugog modela zbog sigurnosnih problema - Sam Altman je tijekom razgovora s novinarima rekao da tvrtka povećava ulaganja u nadzor AI agenata.

Nvidia je 28. rujna predstavila Open Agent Safety Platform, koja povezuje softver otvorenog koda i hardverski nadzor radi ograničavanja autonomnih AI agenata. OpenShell bilježi njihove postupke i provodi pravila izvan samog modela, dok sustav Sentry na zasebnim procesorima nadzire ponašanje i, tvrdi kompanija, može zaustaviti agenta koji prekorači dopuštene granice u milisekundama. Softverski dio već je dostupan, a platforma je namijenjena sprječavanju zaobilaženja zaštita postavljenih samo na razini aplikacije.