Kineski znanstvenik traži čvrsta ograničenja za AI agente: Ključne odluke moraju ostati u ljudskim rukama

Na konferenciji u Šangaju istraživač Jin Yaochu sa Sveučilišta Westlake upozorio je da sve samostalnije djelovanje AI agenata otvara rizike prekoračenja ovlasti i probijanja sigurnosnih ograničenja. Zatražio je da se već tijekom razvoja jasno odredi kojim podacima agent smije pristupati, koje radnje može izvršavati i što mu mora biti zabranjeno. Ponašanja poput zavaravanja ili izlaska iz izoliranih računalnih okruženja ne smatra dokazom da AI posjeduje svijest, nego posljedicom nedovoljno razvijenih kontrolnih mehanizama. Naglasio je da odluke s visokim rizikom i nepovratnim posljedicama moraju ostati u ljudskim rukama, neovisno o budućim sposobnostima umjetne inteligencije.