Rasprava među programerima: Brojčane ocjene pouzdanosti koje daje AI mogu stvoriti lažan osjećaj sigurnosti

Rasprava na tehnološkom forumu Hacker News otvorila je pitanje koliko se korisnici smiju oslanjati na postotke kojima AI modeli procjenjuju točnost vlastitih odgovora. Autor Amrut Joshi upozorava da broj poput 85 posto nije pouzdana statistička procjena samo zato što ga je model napisao - za to bi trebalo provjeriti odgovara li iskazana sigurnost stvarnoj učestalosti točnih rezultata. Dio sudionika foruma smatra da modeli ipak mogu korisno ocjenjivati odgovore kada dobiju precizne kriterije i ograničene kategorije. Rasprava je posebno važna za AI agente koji samostalno izvršavaju zadatke ili odlučuju kada je potreban ljudski nadzor.