Microsoftov inženjer opisao ograničenja AI agenta koji radi na aktivnoj mreži

Microsoftov inženjer Arun Malik opisao je AI agenta koji prikuplja podatke o kvarovima na mreži i predlaže popravke, ali za promjene na aktivnoj infrastrukturi mora dobiti ljudsko odobrenje. Prema njegovu opisu, agent može koristiti samo ovlasti osobe koja ga je pokrenula i pojedinačno odobrene alate, a njegove su radnje zabilježene. Malik upozorava da uputa zadana modelu sama ne može spriječiti pogrešnu radnju ili utjecaj zlonamjernog teksta u zapisima sustava. Objava ne donosi podatke o učestalosti pogrešaka ni neovisnu sigurnosnu provjeru.