AI prijetnja

ByteDanceova istraživačka jedinica Seed osnovala je zaseban tim za sigurnost AI-ja i traži deset istraživača u Pekingu, Šangaju i San Joseu. Tvrtka najavljuje ispitivanje ranjivosti, praćenje ponašanja modela i provjere AI agenata, uz suradnju s vanjskim istraživačima. Riječ je o najavljenom ulaganju u sigurnost, a ne o rezultatima već provedenih provjera.

Gradski kontrolor New Yorka Mark Levine pozvao je Anthropic da odgodi planirani izlazak na američku burzu dok ne odgovori na pitanja o sigurnosti svojih AI sustava, upravljanju tvrtkom i brzini razvoja. U pismu direktoru Dariju Amodeiju ustvrdio je da bi tvrtka najprije trebala raditi na tim rizicima. Njujorški javni mirovinski fondovi preko privatnih ulaganja imaju oko sedam milijuna dolara izloženosti Anthropicu, priopćio je ured kontrolora. Tvrtka nije odmah odgovorila na Reutersov zahtjev za komentar.

Američka Savezna trgovinska komisija poslala je OpenAI-ju i Anthropicu sudske zahtjeve za dostavu dokumenata o sigurnosnim incidentima, objavio je Axios pozivajući se na osobu upoznatu sa slučajem. Regulator traži i podatke o zaštitnim mjerama, privatnosti i oglašavanju, a planira saslušati rukovoditelje vodećih AI tvrtki. Komisija i dvije tvrtke nisu odmah odgovorile na Reutersove zahtjeve za komentar.

Zamjenica guvernera Bank of England Sarah Breeden rekla je da s bankama radi na načinima oporavka ključnih usluga ako napadači probiju njihove računalne sustave. Kao jednu mogućnost navela je pričuvne sustave odvojene od glavne infrastrukture. Upozorila je da razvoj AI-ja povećava rizik od većih i složenijih kibernetičkih napada te da bi prekid rada važne banke ili financijske infrastrukture mogao imati sustavne posljedice.

Monetarna uprava Hong Konga objavila je nove nadzorne smjernice za odgovornu uporabu umjetne inteligencije u bankama. Za AI agente koji mogu samostalno obavljati više koraka priprema i prijedlog okvira koji bi obuhvatio jasnu odgovornost, evidenciju važnih agenata i mogućnost ljudske intervencije. Prijedlog će iznijeti u dokumentu za raspravu.

Odbor za financijsku stabilnost objavio je završne smjernice za upravljanje rizicima AI agenata u bankama i drugim financijskim tvrtkama. Za primjene s većim rizikom traži intenzivniji ljudski nadzor i jasna pravila o tome kada agent mora zatražiti odobrenje čovjeka. Iz smjernica je uklonjena usporedba agenata sa "sintetičkim zaposlenicima" - odbor upozorava da oni ne razmišljaju poput ljudi i mogu neočekivano protumačiti zadane ciljeve.

Londonska prometna uprava i britanska tvrtka Augur pokrenuli su istraživački projekt o uporabi AI-ja za prepoznavanje seksualnih prijestupa u autobusima, izvijestio je Resilience Media. Tvrtka je dobila ulaganje državnog fonda Sovereign AI i pristup državnom superračunalu za rad na većim skupovima videosnimki. Nije objavljeno kada će istraživanje početi ni hoće li sustav biti uveden u prometnu mrežu, a njegova učinkovitost zasad nije neovisno provjerena.

Američko ministarstvo domovinske sigurnosti planira ugovor s tvrtkom Pen-Link za sustav kojim bi istražitelji mogli pretraživati prisluškivane razgovore, podatke o lokaciji telefona, e-poštu i financijske zapise, objavio je Project Salt Box pozivajući se na javnu obavijest o nabavi. Predviđeni AI pomoćnik mogao bi sažimati i povezivati te podatke. Ugovor još nije dodijeljen, a dokumenti ne navode koliko bi se dugo čuvali zapisi osoba koje nisu predmet istrage.

Google je finskom regulatoru dostavio očitovanje o sječi šume na lokacijama planiranih podatkovnih centara u Muhosu i Kajaaniju. Tvrtka tvrdi da je, nakon razgovora s nadležnim tijelima, smatrala da smije započeti radove dok je procjena utjecaja na okoliš još u tijeku. Regulator je ranije utvrdio da je za sječu u Muhosu procjena potrebna, a pripremni radovi na obje lokacije sada su obustavljeni.

Nakon objave američkih podataka o inflaciji u srijedu su snažno pale dionice nekoliko tvrtki povezanih s gradnjom AI infrastrukture. CoreWeave je izgubio 16 posto vrijednosti, Nebius 11, Oracle devet, a Dell 11 posto - zajedno oko 80 milijardi dolara tržišne vrijednosti. Ulagače brine cijena zaduživanja u sektoru koji za podatkovne centre treba velika ulaganja, osobito kod tvrtki koje se već snažno oslanjaju na dug.

Uber i njegovi partneri Pony i Verne počeli su testirati autonomna vozila na ulicama Manchestera. Zasad mapiraju grad bez putnika, uz sigurnosnog vozača za upravljačem, a zahtjev za pokretanje prijevoza putnika još nije podnesen. Sindikati GMB i ADCU upozoravaju da bi širenje robotaksija moglo ugroziti tisuće vozačkih poslova te traže potporu radnicima koje bi to pogodilo.

Odvjetnici 40 američkih saveznih država zatražili su od stečajnog suda da zaštiti povijest razgovora mladih korisnika Character.AI-ja ako se imovina tvrtke proda. Države pregovaraju s tvrtkom o nagodbi zbog tvrdnji da su njezini chatbotovi izlagali djecu štetnim razgovorima te traže da budući kupac poboljša zaštitne mjere. Odvjetnica Character.AI-ja rekla je da zasad nema ponude za korisničke podatke ni za poslovanje chatbota.

Skupine i pojedinačni donatori koji zagovaraju sigurnosna pravila za umjetnu inteligenciju potrošili su 48 milijuna dolara na potporu kandidatima obiju američkih stranaka u ovom izbornom ciklusu, pokazuju podaci objavljeni u Axiosu. Među njima je Guardrails Alliance, koji je prikupio 11,7 milijuna dolara kroz svoj politički odbor i povezanu organizaciju. Novac ulažu u trenutku kada i tehnološki ulagači nastoje utjecati na to kakva će pravila Kongres donijeti.

Indijski državni tajnik za informatičku tehnologiju Jitin Prasada najavio je posebnu politiku za podatkovne centre, uz poruku da njihova potrošnja električne energije ne bi smjela povećati račune građanima. Nije rekao što će pravila sadržavati ni kada će biti objavljena. Najava dolazi nakon prosvjeda stanovnika u okolici planiranih centara Amazona i Googlea zbog potrošnje vode i struje te drugih lokalnih posljedica gradnje.

Iowa, Kansas i još šest američkih saveznih država podnijeli su tužbe protiv OpenAI-ja, tvrdeći da je ChatGPT u pojedinim slučajevima poticao djecu da naude sebi ili drugima. Od sudova traže da nalože promjene u načinu rada chatbota za djecu te povrat dobiti ostvarene od mladih korisnika. Riječ je o navodima iz tužbi, a ne o sudski utvrđenoj odgovornosti tvrtke.

U Trellixovu istraživanju među 600 voditelja informacijske sigurnosti, 95 posto ispitanih tvrtki prijavilo je barem jedan interni sigurnosni incident s kojim je bio povezan AI agent ili drugi autonomni sustav u posljednjih godinu dana. Taj podatak ne govori koliko je incidenata bilo ozbiljno. Među tvrtkama koje su prijavile incidente, autonomnim sustavima pripisano je prosječno 28 posto slučajeva, dok je većina povezana s postupcima ljudi. Čak 63 posto ispitanika kaže da nema dovoljno uvida u to kako zaposlenici koriste AI alate.