sigurnost AI-ja

Microsoftov inženjer Arun Malik opisao je AI agenta koji prikuplja podatke o kvarovima na mreži i predlaže popravke, ali za promjene na aktivnoj infrastrukturi mora dobiti ljudsko odobrenje. Prema njegovu opisu, agent može koristiti samo ovlasti osobe koja ga je pokrenula i pojedinačno odobrene alate, a njegove su radnje zabilježene. Malik upozorava da uputa zadana modelu sama ne može spriječiti pogrešnu radnju ili utjecaj zlonamjernog teksta u zapisima sustava. Objava ne donosi podatke o učestalosti pogrešaka ni neovisnu sigurnosnu provjeru.

Gradsko vijeće New Yorka na raspravi 12. listopada predstavilo je deset prijedloga propisa o sigurnosti, privatnosti i odgovornosti pri uporabi umjetne inteligencije. Jedan bi zahtijevao neovisnu provjeru AI sustava prije njihove uporabe u gradu te mogućnost da ih čovjek zaustavi. Čelnik sindikata 32BJ SEIU Manny Pastreich rekao je da su članovi prijavili disciplinske mjere bez ljudskog nadzora i uporabu pametnih naočala za praćenje radnika u zračnim lukama. Riječ je o sindikalnim navodima i prijedlozima, a ne o utvrđenim slučajevima ili usvojenim pravilima.

Više od 20 američkih zastupnika zatražilo je od Savezne uprave za zrakoplovstvo (FAA) da privremeno obustavi uporabu AI alata koji pomaže u planiranju letova oko Washingtona. Kažu da nisu dobili izvješća o sigurnosnim provjerama ni podatke o obuci osoblja. Sustav SMART analizira rasporede, vremenske prilike i stanje u zračnom prostoru te predlaže izmjene rasporeda. Ministar prometa Sean Duffy ističe da kontrolori leta i dalje donose odluke, a zastupnici od FAA-a traže odgovor do 19. listopada.

Britanska sigurnosna služba MI5 osnovala je centar koji zajedno sa stručnjacima drugih državnih tijela procjenjuje prijetnje povezane s umjetnom inteligencijom, objavio je njezin čelnik Ken McCallum. Rekao je da je služba otkrila pokušaje terorista da uz pomoć AI-ja poboljšaju izviđanje i pripremu napada. Moguću uporabu AI-ja u razvoju biološkog oružja izdvojio je kao ozbiljan rizik koji se, prema njegovim riječima, još nije ostvario.