Bivši istraživač OpenAI-ja upozorava na visok rizik gubitka kontrole nad AI-jem u sljedeće tri godine
Paul Christiano, bivši istraživač OpenAI-ja i izvršni direktor neprofitnog Alignment Research Centera, upozorio je na predavanju Hinton Lectures da bi nesreća povezana s umjetnom inteligencijom mogla postati najvjerojatniji uzrok smrti ljudi koji danas žive. Procijenio je da postoji visok rizik da umjetna inteligencija preuzme kontrolu u sljedeće tri godine, upozoravajući da bi sve sposobniji agenti mogli obmanjivati ljudske nadzornike i zaobilaziti sigurnosne provjere. Christiano smatra da postojeći pristupi nadzoru naprednijih modela još nisu dokazani te poziva na zajedničke sigurnosne standarde i mogućnost usporavanja ili zaustavljanja razvoja ako se pokaže da sustave nije moguće kontrolirati.
Rasprava