Francusko vijeće upozorava na emocionalnu ovisnost o AI asistentima i traži stroži nadzor ChatGPT-a, Geminija i Groka

Francusko Vijeće za umjetnu inteligenciju i digitalne tehnologije (CIANum) predstavilo je 10. studenoga izvješće s 18 preporuka za zaštitu korisnika generativne umjetne inteligencije, posebno djece i mladih. Stručnjaci upozoravaju da personalizirani razgovori, pretjerano laskanje i oponašanje ljudskih osobina mogu poticati emocionalnu ovisnost, dok prikupljanje detaljnih podataka otvara prostor za komercijalno iskorištavanje psiholoških ranjivosti korisnika. Predlažu da se takve značajke standardno isključe te da AI asistenti prije izlaska na tržište prolaze procjene rizika, uz pojačan nadzor nakon uvođenja. Vijeće ne zagovara zabranu AI asistenata za maloljetnike, nego stroža pravila koja bi zahtijevala i djelovanje na europskoj razini.