Europska komisija angažira konzorcij predvođen Capgeminijem za procjenu opasnosti od AI kibernetičkih napada

Ured Europske komisije za umjetnu inteligenciju odabrao je konzorcij predvođen tehnološkom kompanijom Capgemini za razvoj metoda kojima će se procjenjivati kibernetičke prijetnje povezane s naprednim AI modelima opće namjene. U projektu sudjeluju i Wavestone te francuski javni laboratorij LNE, a njihov će rad obuhvatiti modeliranje rizika, tehničke sigurnosne provjere i podršku provedbi europskog Akta o umjetnoj inteligenciji. Capgemini upozorava da takvi modeli sve uspješnije samostalno otkrivaju softverske ranjivosti, izrađuju alate za njihovo iskorištavanje i koordiniraju složenije napade. Novi angažman trebao bi Komisiji osigurati stručnu podlogu za procjenu sistemskih rizika i nadzor obveza pružatelja naprednih modela.