Anthropicovo istraživanje: Stručnjaci u 86 posto analitičkih odluka slijedili skrivene sklonosti AI agenta

U eksperimentu s 50 profesionalnih analitičara Anthropic je pokazao koliko umjetna inteligencija može utjecati na ljudske stručne prosudbe čak i kada ljudi vjeruju da samostalno donose odluke. Istraživači su AI agentima nasumično dodijelili skrivene sklonosti prema pojedinim analitičkim postupcima, a sudionici su ih slijedili u 86 posto slučajeva. Kada je agent osporio već izraženu odluku analitičara, njih 60 posto promijenilo je mišljenje, dok je 77 posto sudionika naknadno ponovilo barem dio agentove argumentacije, često bez navođenja izvora. Autori upozoravaju da ljudski nadzor nad AI sustavima ne mora predstavljati neovisnu provjeru ako se prosudbe samih nadzornika oblikuju prema prijedlozima modela. Ipak, naglašavaju da su sklonosti agenata u eksperimentu namjerno pojačane i da se rezultati ne mogu izravno preslikati na svakodnevnu uporabu.