Symantec otkrio zlonamjernog AI agenta koji pokušava preuzeti tuđe modele i zaobići njihove sigurnosne zaštite

Sigurnosna tvrtka Symantec otkrila je zlonamjernog AI agenta osmišljenog za iskorištavanje legitimnih jezičnih modela i poticanje njihova djelovanja mimo ugrađenih sigurnosnih ograničenja. Prema istraživanju koje prenosi The Wall Street Journal, napadači takvim postupkom mogu koristiti tuđu računalnu snagu, izbjeći troškove vlastitih AI operacija i prikriti podrijetlo napada. Upute otkrivenog agenta predviđale su do 100.000 koraka rada bez ljudske intervencije. Riječ je o dodatnom sigurnosnom problemu za organizacije koje naprednim AI sustavima omogućuju pristup vanjskim alatima i računalnim resursima.