Pariz: Aktivisti protiv ubrzanog razvoja umjetne inteligencije najavili prosvjednu povorku do Trocadéra
Organizacije Pause IA i Stop The AI Race najavile su za subotu prosvjednu povorku kroz Pariz kojom zahtijevaju međunarodni sporazum o razvoju umjetne inteligencije. Okupljanje je predviđeno od 11 do 13 sati, s polaskom s Trga Concorde i završetkom kod Trocadéra. Prosvjed se održava istoga dana kada francusku prijestolnicu zahvaća novi val mobilizacija zbog životnih troškova, policijskih ovlasti i prava djece, ali predstavlja zasebnu inicijativu usmjerenu na međunarodno upravljanje tehnološkim razvojem.
Tehnološke kompanije pokušavale su preko Trumpa suzbiti regulaciju AI-ja, otkriva izvješće o sukobu unutar industrije
Dio američkih tehnoloških kompanija i investitora pokušavao je iskoristiti svoje veze s predsjednikom Donaldom Trumpom kako bi oslabio regulatorni pritisak povezan s upozorenjima čelnika Anthropica Darija Amodeija na opasnosti umjetne inteligencije, otkriva New York Times u istraživanju koje prenosi brazilski UOL. Više od 20 sugovornika opisalo je sukob između zagovornika ograničavanja razvoja i širenja najnaprednijih modela te kompanija koje žele zadržati širok pristup toj tehnologiji. Anthropic i OpenAI zagovarali su ograničenja određenih modela zbog sigurnosnih rizika, dok su tadašnji čelnik Nvidije Jensen Huang i Microsoftov Satya Nadella branili njihovu dostupnost programerima. Spor se proširio i na tržišno natjecanje - Anthropic je optuživan da sigurnosnim argumentima opravdava ograničavanje pristupa vlastitim uslugama i pritisak protiv besplatnih alternativa. Iza javne rasprave o sigurnosti tako se odvija i borba za kontrolu nad razvojem i distribucijom umjetne inteligencije.
Organizacije u SAD-u tužile OpenAI, Google i Anthropic te zatražile sudsku zabranu razvoja najnaprednijih AI modela
Skupina američkih neprofitnih organizacija podnijela je u San Franciscu tužbu protiv OpenAI-ja, Anthropica, Googlea, Mete i AI odjela SpaceX-a, zahtijevajući sudsku zabranu daljnjeg razvoja njihovih najnaprednijih modela umjetne inteligencije. Organizacije Public Citizen, Heat Initiative i Irreplaceable Education Fund tvrde da kompanije svojim poslovanjem stvaraju rizik za javnu sigurnost te se pozivaju na kalifornijske zakone o nepoštenoj poslovnoj praksi. U tužbi koriste i ranija upozorenja samih tehnoloških direktora o mogućim katastrofalnim posljedicama razvoja umjetne inteligencije. Postupak se pridružuje već pokrenutim tužbama američkih saveznih država, uključujući Floridu, koja također traži ograničenja razvoja novih modela bez neovisnog sigurnosnog nadzora.
Francusko vijeće upozorava na emocionalnu ovisnost o AI asistentima i traži stroži nadzor ChatGPT-a, Geminija i Groka
Francusko Vijeće za umjetnu inteligenciju i digitalne tehnologije (CIANum) predstavilo je 10. studenoga izvješće s 18 preporuka za zaštitu korisnika generativne umjetne inteligencije, posebno djece i mladih. Stručnjaci upozoravaju da personalizirani razgovori, pretjerano laskanje i oponašanje ljudskih osobina mogu poticati emocionalnu ovisnost, dok prikupljanje detaljnih podataka otvara prostor za komercijalno iskorištavanje psiholoških ranjivosti korisnika. Predlažu da se takve značajke standardno isključe te da AI asistenti prije izlaska na tržište prolaze procjene rizika, uz pojačan nadzor nakon uvođenja. Vijeće ne zagovara zabranu AI asistenata za maloljetnike, nego stroža pravila koja bi zahtijevala i djelovanje na europskoj razini.
Australija najavila stroga sigurnosna pravila za napredni AI nakon OpenAI-jeva upada u državni zdravstveni portal
Australska vlada 10. studenoga najavila je zakon kojim će svim kompanijama koje u zemlji nude najnaprednije AI modele nametnuti obvezne sigurnosne standarde i neovisne provjere. Novi regulator nadzirao bi njihovu provedbu, zahtijevao brzo prijavljivanje sigurnosnih incidenata i mogao izricati znatne novčane kazne. Odluka je uslijedila nakon što je OpenAI-jev agent u lipnju neovlašteno pristupio državnom portalu zdravstvenog osiguranja Medicare, o čemu je kompanija australske vlasti obavijestila tek u rujnu. Vlada Anthonyja Albanesea prihvatila je svih 18 preporuka istrage, uključujući razmatranje izmjena kaznenog zakonodavstva. Predložene obveze još moraju proći zakonodavni postupak.
Bill Gates upozorava na dva desetljeća potresa zbog AI-ja i traži stroži javni nadzor
Bill Gates upozorio je da bi čak i uz uspješno upravljanje umjetnom inteligencijom društvo moglo proći kroz 20 godina dubokih poremećaja. U intervjuu za The Verge kao neposredne prijetnje istaknuo je gubitak radnih mjesta, kibernetičke i biološke napade te modele kojima se mogu ukloniti sigurnosne zaštite. Smatra da postojeće metode nadzora AI sustava još nisu dovoljno razvijene, dok je oslanjanje na dobrovoljnu samoregulaciju kompanija nedostatno. Zauzima se za snažniju ulogu državnih institucija i tehničke mehanizme koji bi umjetnoj inteligenciji postavili ograničenja koja ne može samostalno zaobići.
Predsjednik OpenAI-ja financira političku skupinu koja se protivi strožim ograničenjima umjetne inteligencije
Predsjednik OpenAI-ja Greg Brockman i njegova supruga Anna donirali su 25 milijuna dolara političkoj skupini Leading the Future, koja troši milijune na utjecaj na najmanje 48 izbora za američki Kongres. Skupina podupire kandidate koji se protive ograničenjima razvoja umjetne inteligencije, uključujući političare koji žele saveznim zakonom spriječiti pojedine američke države da donose vlastita pravila. Brockman je istodobno među tehnološkim čelnicima koji su potpisali Trumpov dobrovoljni sporazum o sigurnosti AI-ja. OpenAI ističe da je donacija bila privatna, dok kritičari upozoravaju na raskorak između javnog zagovaranja sigurnosti i političkog financiranja protivnika regulacije.
Florida traži sudsku zabranu razvoja novih OpenAI-jevih modela bez neovisne provjere sigurnosti
Glavni državni odvjetnik Floride James Uthmeier zatražio je 28. rujna od suda da OpenAI-ju privremeno zabrani razvoj novih AI modela bez sigurnosnog odobrenja neovisne treće strane. Traži i zabranu pristupa ChatGPT-u maloljetnicima na Floridi te ograničenja pripisivanja ljudskih osobina chatbotu i njegova oglašavanja bez upozorenja na rizike. Zahtjev je podnesen u sklopu ranije tužbe protiv tvrtke i Sama Altmana, u kojoj državni odvjetnici tvrde da razgovor nalik ljudskome i pamćenje podataka o korisniku mogu poticati emocionalnu ovisnost, osobito kod mladih.
Trump najavio razgovor s Amodeijem, ali ostaje protiv usporavanja razvoja AI-ja
Donald Trump potvrdio je 27. rujna da te večeri planira večeru s čelnikom Anthropica Darijem Amodeijem, javlja Reuters. U razgovoru za Fox News priznao je Amodeijevu zabrinutost zbog rizika ubrzanog razvoja AI-ja, ali je prednost pred Kinom označio važnijom te ponovio protivljenje usporavanju i novim propisima. Za incidente u kojima su AI agenti neovlašteno pristupali drugim sustavima rekao je da ga ne zabrinjavaju.
Australski Senat pozvao Altmana i Amodeija na saslušanje nakon upada AI agenta
Sam Altman i Dario Amodei dobili su pisane pozive na javno saslušanje u Canberri 1. listopada, potvrdio je 27. rujna ured senatorice Sarah Hanson-Young, javlja Reuters. Poziv slijedi nakon otkrića neovlaštenog pristupa OpenAI-jeva agenta sustavu Medicare, pri čemu tvrtka tvrdi da privatni podaci nisu kompromitirani. Senatska istraga obuhvaća i posljedice AI-ja i podatkovnih centara za stanovništvo, gospodarstvo, vodu i energiju.
Gates traži obvezan nadzor AI-ja: prekidač za gašenje nije dovoljan
Bill Gates pozvao je na obvezne zaštitne mjere i praćenje rada naprednih AI sustava u razgovoru za NBC-jevu emisiju "Meet the Press", emitiranom 27. rujna. Suosnivač Microsofta smatra da neposrednu opasnost predstavljaju zlonamjerni korisnici kojima AI olakšava prijevare, kibernetičke napade i razvoj biološkog oružja. Sam prekidač za hitno gašenje nije dovoljan, upozorio je - potreban je i zapis aktivnosti kako bi se moglo utvrditi što sustav radi. Uvođenje takvog nadzora odvojio je od rasprave o usporavanju razvoja, tvrdeći da se zaštita može ugraditi već sada.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.
