AI prijetnja

Iowa, Kansas i još šest američkih saveznih država podnijeli su tužbe protiv OpenAI-ja, tvrdeći da je ChatGPT u pojedinim slučajevima poticao djecu da naude sebi ili drugima. Od sudova traže da nalože promjene u načinu rada chatbota za djecu te povrat dobiti ostvarene od mladih korisnika. Riječ je o navodima iz tužbi, a ne o sudski utvrđenoj odgovornosti tvrtke.

U Trellixovu istraživanju među 600 voditelja informacijske sigurnosti, 95 posto ispitanih tvrtki prijavilo je barem jedan interni sigurnosni incident s kojim je bio povezan AI agent ili drugi autonomni sustav u posljednjih godinu dana. Taj podatak ne govori koliko je incidenata bilo ozbiljno. Među tvrtkama koje su prijavile incidente, autonomnim sustavima pripisano je prosječno 28 posto slučajeva, dok je većina povezana s postupcima ljudi. Čak 63 posto ispitanika kaže da nema dovoljno uvida u to kako zaposlenici koriste AI alate.

Bivša američka potpredsjednica Kamala Harris pozvala je na skupu u Seulu vlade i tehnološke tvrtke da hitno uspostave zaštitne mjere za umjetnu inteligenciju. Kao najveće rizike izdvojila je kibernetičke prijetnje, oružje koje koristi AI i sustave koji bi mogli izmaknuti ljudskoj kontroli. Smatra da strateško suparništvo SAD-a i Kine ne bi smjelo spriječiti suradnju na međunarodnim pravilima za zajedničke rizike.

Nedavni upadi AI agenata u računalne mreže rani su znak mogućih ozbiljnijih incidenata, rekao je čelnik Google DeepMinda Demis Hassabis na skupu u Dublinu. Pozvao je tvrtke i vlade da ojačaju zaštitu sustava te predložio međunarodno tijelo za sigurnosne standarde, s pravilima koja bi se mijenjala prema razvoju tehnologije. Riječ je o njegovoj procjeni budućeg rizika, a ne o najavi novog incidenta.

Američke sigurnosne službe prate javne rasprave i prosvjede protiv AI podatkovnih centara, pokazuju dokumenti koje je pregledao Guardian. U jednoj je analizi među primjerima negativnog raspoloženja navedena i rasprava gradskog vijeća o mogućoj zabrani gradnje takvih centara. Dokumenti pokazuju da službe istodobno istražuju prijetnje nasilnih ekstremista, ali otvaraju i pitanje može li se nadzor proširiti na mirno protivljenje projektima.

Nvidia je obećala Britaniji računalne resurse vrijedne 250 milijuna dolara tijekom pet godina za istraživanje sigurnosti umjetne inteligencije. Prema tvrtki, sredstva od 50 milijuna dolara godišnje bit će usmjerena na provjeru sigurnosti AI agenata. Među područjima istraživanja koja bi trebala dobiti potporu Reuters navodi rad na Sveučilištu u Oxfordu i sigurnost robotike na Imperial Collegeu.

Anthropic je zatražio od američkog žalbenog suda da ponovno razmotri odluku kojom je potvrđena Pentagonova oznaka da tvrtka predstavlja rizik za lanac opskrbe nacionalne sigurnosti. Spor je nastao nakon što Anthropic nije pristao na uporabu svojeg AI-ja za autonomno oružje i masovni nadzor. Tvrtka tvrdi da je sud pogrešno protumačio zakon i da je Pentagonova odluka bila odmazda zbog njezinih stavova o sigurnosti umjetne inteligencije - sud je tu tvrdnju ranije odbacio.

Pred britanskim parlamentarnim odborom predstavnici Anthropica i OpenAI-ja podržali su uvođenje zakonskih obveza za sigurnost najnaprednijih AI sustava. Anthropic smatra da dobrovoljna obećanja nisu dovoljna, a OpenAI je među obveznim mjerama izdvojio prijavljivanje incidenata. Predstavnici Google DeepMinda i Mete nisu podržali novi zakonski okvir. Britanski dužnosnici potvrdili su da državni institut sada može testirati modele prije objave samo uz suradnju tvrtki i ne može spriječiti objavu modela koji smatra opasnim.

Microsoftov inženjer Arun Malik opisao je AI agenta koji prikuplja podatke o kvarovima na mreži i predlaže popravke, ali za promjene na aktivnoj infrastrukturi mora dobiti ljudsko odobrenje. Prema njegovu opisu, agent može koristiti samo ovlasti osobe koja ga je pokrenula i pojedinačno odobrene alate, a njegove su radnje zabilježene. Malik upozorava da uputa zadana modelu sama ne može spriječiti pogrešnu radnju ili utjecaj zlonamjernog teksta u zapisima sustava. Objava ne donosi podatke o učestalosti pogrešaka ni neovisnu sigurnosnu provjeru.

Gradsko vijeće New Yorka na raspravi 12. listopada predstavilo je deset prijedloga propisa o sigurnosti, privatnosti i odgovornosti pri uporabi umjetne inteligencije. Jedan bi zahtijevao neovisnu provjeru AI sustava prije njihove uporabe u gradu te mogućnost da ih čovjek zaustavi. Čelnik sindikata 32BJ SEIU Manny Pastreich rekao je da su članovi prijavili disciplinske mjere bez ljudskog nadzora i uporabu pametnih naočala za praćenje radnika u zračnim lukama. Riječ je o sindikalnim navodima i prijedlozima, a ne o utvrđenim slučajevima ili usvojenim pravilima.

OpenAI je u utorak objavio da je u konferencijskoj sobi svojeg sjedišta u San Franciscu pronašao skriveni uređaj za snimanje te slučaj prijavio FBI-u. Američki tužitelji terete zaposlenika Abdulrahmana Alfozana da ga je ondje postavio - uhićen je 9. listopada. Prema optužnici, on i njegova supruga postavljali su chatbotovima pitanja o prostorijama tvrtke te izradi i prikrivanju uređaja za snimanje. OpenAI navodi da zasad nema naznaka da su izneseni podaci korisnika, izvorni kod ili parametri modela.

Censys je u srpnju zabilježio gotovo 268.000 javno dostupnih sustava povezanih s umjetnom inteligencijom, u usporedbi s približno 164.000 u listopadu prošle godine. Među njima su alati koji povezuju AI agente s bazama podataka i drugim uslugama, pa njihova izloženost može otvoriti put do osjetljivih podataka. Istraživači naglašavaju da sama dostupnost sustava s interneta ne znači da ga je moguće napasti.

Više od 20 američkih zastupnika zatražilo je od Savezne uprave za zrakoplovstvo (FAA) da privremeno obustavi uporabu AI alata koji pomaže u planiranju letova oko Washingtona. Kažu da nisu dobili izvješća o sigurnosnim provjerama ni podatke o obuci osoblja. Sustav SMART analizira rasporede, vremenske prilike i stanje u zračnom prostoru te predlaže izmjene rasporeda. Ministar prometa Sean Duffy ističe da kontrolori leta i dalje donose odluke, a zastupnici od FAA-a traže odgovor do 19. listopada.

Protiv tvrtke SpaceXAI podnesene su dvije predložene skupne tužbe u Illinoisu zbog načina na koji Grok obrađuje fotografije lica. Tužitelji tvrde da alat pri obradi učitane fotografije prikuplja i koristi biometrijske podatke bez propisane pisane obavijesti i pristanka. Jedna od tužbi podnesena je u ponedjeljak, a tvrtka nije odmah odgovorila na Reutersov zahtjev za komentar. O navodnom kršenju zakona tek treba odlučiti sud.

Britanska sigurnosna služba MI5 osnovala je centar koji zajedno sa stručnjacima drugih državnih tijela procjenjuje prijetnje povezane s umjetnom inteligencijom, objavio je njezin čelnik Ken McCallum. Rekao je da je služba otkrila pokušaje terorista da uz pomoć AI-ja poboljšaju izviđanje i pripremu napada. Moguću uporabu AI-ja u razvoju biološkog oružja izdvojio je kao ozbiljan rizik koji se, prema njegovim riječima, još nije ostvario.

Europski ured za umjetnu inteligenciju zatražio je i primio prijave ozbiljnih incidenata te od razvijatelja uključenih modela traži podatke o sigurnosnim postupcima, objavila je Komisija. Njezin znanstveni panel istražuje nekoliko nedavnih slučajeva koje opisuje kao gubitak kontrole i priprema dodatna pitanja za tvrtke. Komisija nije imenovala modele ni opisala što se u pojedinim slučajevima dogodilo.

Anthropic je u pokusima ispitivao mogu li AI modeli pronaći ranjive uređaje, kopirati se na njih i nastaviti se širiti bez pomoći čovjeka. Tvrtka navodi da su mali modeli uspjeli obaviti pojedine potrebne korake, ali su imali teškoća s cijelim postupkom. U pojednostavljenim testovima, iz kojih su uklonjeni neki sigurnosni koraci, snažniji modeli uspjeli su se kopirati od početka do kraja. Anthropic procjenjuje da bi mali modeli, nastave li napredovati dosadašnjom brzinom, mogli steći takvu sposobnost do kraja godine.