Kineski institut upozorava: Pogreška u jednom AI modelu mogla bi istodobno pogoditi brojne industrije

Potpredsjednik Kineske akademije informacijskih i komunikacijskih tehnologija Ao Li upozorio je na financijskom forumu u Pekingu da sve veća ovisnost različitih industrija o malom broju temeljnih AI modela stvara novu vrstu sustavnog rizika. Ista pogreška mogla bi istodobno izazvati štetu u više sektora, dok se ponašanje modela mijenja između verzija, što dodatno otežava procjenu opasnosti. Institut zato razvija modele osiguranja od štete uzrokovane umjetnom inteligencijom te je s kineskim osiguravateljima već uspostavio postupak procjene rizika prije osiguravanja jednog proizvoda s AI agentima. Ao Li naglašava da sigurnosne mjere mogu smanjiti rizik, ali ga ne mogu potpuno ukloniti.