Microsoft upozorava da AI agenti postaju unutarnja sigurnosna prijetnja tvrtkama

Microsoft je predstavio nove sigurnosne alate za nadzor AI agenata koji samostalno pristupaju poslovnim podacima i obavljaju zadatke unutar tvrtki. Izvršna potpredsjednica za sigurnost Hayete Gallot upozorila je da se ni najnaprednijim AI modelima ne može bezuvjetno vjerovati jer njihovo ponašanje može biti nepredvidivo čak i bez vanjskog napada. Novi sustav Guardian Agents namijenjen je praćenju aktivnosti drugih agenata, ograničavanju njihovih ovlasti i zaustavljanju rizičnih postupaka. Microsoft proširuje i mogućnost otkrivanja na 60 vrsta lokalnih AI agenata, uključujući Claude Code i OpenAI Codex, uz mogućnost zahtijevanja ljudskog odobrenja za osjetljive radnje.