Pouzdanost AI modela

Deng Zhonghan, član Kineske akademije inženjerstva, upozorio je da neobjašnjivost rada velikih jezičnih modela i njihova sklonost izmišljanju informacija mogu postati ozbiljan rizik daljnjeg razvoja umjetne inteligencije. U razgovoru za kineski Daily Economic News iznio je pristup prema kojem bi se statističko predviđanje jezičnih modela povezalo s pravilima, logičkim odnosima i fizičkim ograničenjima koja obrađuje CPU. Njegov istraživački tim razvija heterogenu arhitekturu XPU koja kombinira CPU i GPU, a Deng tvrdi da takav sustav može smanjiti pogrešne zaključke i povećati objašnjivost rada modela. Riječ je o istraživačkom pristupu čija učinkovitost u širokoj primjeni nije neovisno potvrđena u objavljenom razgovoru.

Rasprava na tehnološkom forumu Hacker News otvorila je pitanje koliko se korisnici smiju oslanjati na postotke kojima AI modeli procjenjuju točnost vlastitih odgovora. Autor Amrut Joshi upozorava da broj poput 85 posto nije pouzdana statistička procjena samo zato što ga je model napisao - za to bi trebalo provjeriti odgovara li iskazana sigurnost stvarnoj učestalosti točnih rezultata. Dio sudionika foruma smatra da modeli ipak mogu korisno ocjenjivati odgovore kada dobiju precizne kriterije i ograničene kategorije. Rasprava je posebno važna za AI agente koji samostalno izvršavaju zadatke ili odlučuju kada je potreban ljudski nadzor.