OpenAI predstavio alat za otkrivanje AI materijala seksualnog zlostavljanja djece i nove sankcije za korisnike
OpenAI je predstavio sustav za prepoznavanje materijala seksualnog zlostavljanja djece koji može otkrivati i slike generirane umjetnom inteligencijom, a provjerenim organizacijama za zaštitu djece omogućit će besplatan pristup. Prema kompanijinim testovima, novi sustav označava 48 posto manje slika za ljudsku provjeru, uz približno jednak broj otkrivenih slučajeva zlostavljanja kao prethodni alat. U ChatGPT se uvode i upozorenja za korisnike koji pokušavaju zatražiti takav sadržaj, uz uklanjanje označenog razgovora i privremenu zabranu pristupa od 24 sata. Mjere dolaze nakon naglog povećanja prijava AI-generiranog materijala, koje sve više opterećuju istražitelje i otežavaju prepoznavanje stvarnih žrtava.
Istraživanje: Prijave materijala seksualnog zlostavljanja djece povezanog s AI-jem porasle više od 8400 posto
Broj prijava materijala seksualnog zlostavljanja djece povezanog s umjetnom inteligencijom porastao je s oko 4700 u 2023. na više od 400.000 u 2025., objavio je istraživački institut Childlight na temelju podataka koje tehnološke kompanije dostavljaju američkom Nacionalnom centru za nestalu i iskorištavanu djecu. Među prijavljenim sadržajima su i lažne intimne slike izrađene AI alatima, koje počinitelji mogu koristiti za ucjenjivanje djece. Istraživanje obuhvaća istočnu Aziju i Pacifik, Latinsku Ameriku i Karibe te Sjevernu Ameriku. Istraživači upozoravaju da dio povećanja može proizlaziti iz boljeg otkrivanja i prijavljivanja, ali traže hitnije djelovanje država i tehnoloških kompanija.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.