Anthropicov istraživač: Više od 10% izgleda da AI u deset godina istrijebi čovječanstvo

Evan Hubinger, jedan od vodećih istraživača sigurnosti u Anthropicu, proizvođaču AI sustava Claude, procjenjuje da postoji više od 10% vjerojatnosti da umjetna inteligencija u idućih deset godina izazove izumiranje čovječanstva. Prema BBC-jevom izvještaju, rizik od sadašnjih modela smatra niskim, ali zabrinjava ga brzina kojom se približavaju sustavi sposobni unapređivati sami sebe. Nije opisao konkretan scenarij koji bi doveo do takvog ishoda.

Njegova objava bila je odgovor istraživaču Jacobu Coxonu, koji je napustio Anthropic, a prethodno radio u OpenAI-ju. Coxon je optužio obje kompanije za neodgovorno ponašanje, upozoravajući na dolazak sustava sposobnih za hakiranje, znanstvene proboje i samostalno stjecanje moći i resursa. Hubinger smatra da se Anthropic trudi, ali priznaje: "Još nemamo plan za rješavanje usklađenosti superinteligencije i nije jasno da smo na putu prema tome." Riječ je o problemu kako osigurati da moćniji AI sustavi slijede ljudske namjere i vrijednosti.

Informatičarka i savjetnica UN-a Wendy Hall izjavila je da su je objave šokirale, ali i otvorila mogućnost da dio takvih upozorenja služi marketingu uoči očekivanih izlazaka kompanija na burzu. Istodobno je Financial Times izvijestio da Anthropic britanskom Institutu za sigurnost umjetne inteligencije nije ustupio svoj najnoviji model za procjenu. Kompanija nije komentirala ni objave istraživača ni navode o institutu.