Bivši istraživač OpenAI-ja upozorava na visok rizik gubitka kontrole nad AI-jem u sljedeće tri godine
Paul Christiano, bivši istraživač OpenAI-ja i izvršni direktor neprofitnog Alignment Research Centera, upozorio je na predavanju Hinton Lectures da bi nesreća povezana s umjetnom inteligencijom mogla postati najvjerojatniji uzrok smrti ljudi koji danas žive. Procijenio je da postoji visok rizik da umjetna inteligencija preuzme kontrolu u sljedeće tri godine, upozoravajući da bi sve sposobniji agenti mogli obmanjivati ljudske nadzornike i zaobilaziti sigurnosne provjere. Christiano smatra da postojeći pristupi nadzoru naprednijih modela još nisu dokazani te poziva na zajedničke sigurnosne standarde i mogućnost usporavanja ili zaustavljanja razvoja ako se pokaže da sustave nije moguće kontrolirati.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.