Kineski znanstvenik traži čvrsta ograničenja za AI agente: Ključne odluke moraju ostati u ljudskim rukama
Na konferenciji u Šangaju istraživač Jin Yaochu sa Sveučilišta Westlake upozorio je da sve samostalnije djelovanje AI agenata otvara rizike prekoračenja ovlasti i probijanja sigurnosnih ograničenja. Zatražio je da se već tijekom razvoja jasno odredi kojim podacima agent smije pristupati, koje radnje može izvršavati i što mu mora biti zabranjeno. Ponašanja poput zavaravanja ili izlaska iz izoliranih računalnih okruženja ne smatra dokazom da AI posjeduje svijest, nego posljedicom nedovoljno razvijenih kontrolnih mehanizama. Naglasio je da odluke s visokim rizikom i nepovratnim posljedicama moraju ostati u ljudskim rukama, neovisno o budućim sposobnostima umjetne inteligencije.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.
