Američki bankovni regulator: I jednostavan AI agent može biti opasniji od najnaprednijeg modela

Američki Ured nadzornika valute (OCC) izdao je 4. studenoga prve smjernice za svoje inspektore o procjeni rizika umjetne inteligencije u bankama, pri čemu naglasak stavlja na posljedice mogućih pogrešaka, a ne na tehnološku složenost modela. Regulator upozorava da jednostavan AI agent s ovlastima za pokretanje financijskih transakcija može predstavljati veću opasnost od znatno naprednijeg modela koji se koristi samo za interne analize. Za rizičnije primjene predviđa stroža ograničenja samostalnog djelovanja sustava i neposredniji ljudski nadzor. OCC pritom ne zahtijeva poseban sustav upravljanja rizicima samo za AI, već procjenu unutar postojećih bankovnih pravila. Smjernice nisu pravno obvezujuće poput propisa, ali američke banke u pravilu slijede takve nadzorne preporuke.