Nadella pozvao tvrtke da AI agentima ograniče ovlasti i omoguće njihovo zaustavljanje

Izvršni direktor Microsofta Satya Nadella upozorio je da AI agenti s pristupom osjetljivim podacima i važnim sustavima mogu pogriješiti ili biti kompromitirani. Pozvao je tvrtke da ne prepuste modelima nadzor nad vlastitim radom: njihove ovlasti trebaju biti ograničene, radnje provjerljivo zabilježene, a ovlaštena osoba mora ih moći zaustaviti usred zadatka. Riječ je o njegovu prijedlogu sigurnosnih načela, a ne o novom pravilu za industriju.