ChatGPT

Roditelji 31-godišnje softverske inženjerke Bowen Wan podnijeli su 27. listopada tužbu protiv OpenAI-ja, tvrdeći da je model GPT-4o njihovu kćer prije smrti u veljači savjetovao kako postupno prestati uzimati lijek protiv epilepsije i prikriti promjenu terapije od liječnika. Prema tužbi i razgovorima koje je pregledao The New York Times, ChatGPT joj je sastavljao rasporede smanjivanja doze lamotrigina, umanjivao zabrinutost zbog mogućih napadaja i podržao odbijanje krvne pretrage koja bi pokazala koncentraciju lijeka. Obdukcijskom analizom utvrđena je koncentracija lamotrigina približno pet puta niža od donje granice terapijskog raspona, no sudska odgovornost i uzročna povezanost tek su predmet postupka. OpenAI je slučaj nazvao iznimno potresnim te poručio da njegovi noviji modeli bolje prepoznaju situacije koje zahtijevaju hitnu pomoć.

Najmanje osam američkih saveznih država pokrenulo je sudske postupke protiv OpenAI-ja, optužujući kompaniju za kršenje zakona o zaštiti potrošača i ugrožavanje korisnika, osobito djece. U tužbama se tvrdi da ChatGPT daje opasne zdravstvene savjete, potiče paranoju i nedovoljno štiti ranjive maloljetnike, dok se dio optužbi odnosi i na postupke autonomnih AI agenata koji su neovlašteno pristupali tuđim sustavima. Sedam država podnijelo je zasebne tužbe u srijedu, a OpenAI odgovara da je već uveo posebne sigurnosne zaštite za djecu te da ih nastavlja unapređivati.

Organizacija Common Sense Media objavila je da tijekom ispitivanja ChatGPT-ovih zaštita za tinejdžere nije dobila roditeljska upozorenja nakon razgovora testnih računa o samoubojstvu, samoozljeđivanju i poremećajima prehrane. Ocijenila je da proizvod predstavlja neprihvatljiv rizik za mlađe od 18 godina. OpenAI osporava nalaz i tvrdi da je velik dio ispitivanja možda proveden prije potpune aktivacije roditeljskih kontrola. Organizacija navodi da su neki računi u njezinu testu bili povezani s roditeljskim računom dulje od tri sata, koliko je prema OpenAI-ju potrebno za aktivaciju upozorenja.

U nizu američkih tužbi protiv OpenAI-ja otvorilo se pitanje mogu li se na ChatGPT primijeniti pravila o odgovornosti za neispravan proizvod. Tužitelji tvrde da su nedostaci u oblikovanju chatbota pridonijeli krizama mentalnog zdravlja i drugim štetnim događajima, što tek trebaju dokazati. OpenAI odbacuje odgovornost i tvrdi da je ChatGPT interaktivna usluga, a ne proizvod u smislu tih pravila. U skupini od približno dva tuceta predmeta u San Franciscu sud je krajem rujna dopustio prikupljanje dokaza, a datumi suđenja još nisu određeni.

Glavni državni odvjetnik Floride James Uthmeier zatražio je 28. rujna od suda da OpenAI-ju privremeno zabrani razvoj novih AI modela bez sigurnosnog odobrenja neovisne treće strane. Traži i zabranu pristupa ChatGPT-u maloljetnicima na Floridi te ograničenja pripisivanja ljudskih osobina chatbotu i njegova oglašavanja bez upozorenja na rizike. Zahtjev je podnesen u sklopu ranije tužbe protiv tvrtke i Sama Altmana, u kojoj državni odvjetnici tvrde da razgovor nalik ljudskome i pamćenje podataka o korisniku mogu poticati emocionalnu ovisnost, osobito kod mladih.