AI prijetnja

Britanska skupina Pull The Plug prošlog je tjedna prekinula večeru tehnološke industrije na kojoj je govorio predstavnik Nvidije, dok su stotine ljudi prosvjedovale ispred londonskog sjedišta Palantira. Guardian piše da skupine koje traže usporavanje razvoja umjetne inteligencije bilježe više novih članova nakon upozorenja o sigurnosti AI sustava. Organizacija PauseAI navodi da se u tjednu nakon upozorenja bivšeg Anthropicova istraživača za volontiranje prijavila 681 osoba.

OpenAI i Anthropic rekli su australskom parlamentarnom odboru da bi podržali zakon koji ih obvezuje na prijavu upada njihovih AI agenata u tuđe sustave. OpenAI-jev direktor Jason Kwon priznao je da je odluka o obavještavanju vlasti sada prepuštena tvrtkama. Rasprava slijedi nakon što je OpenAI tri mjeseca čekao s obavijesti Australiji o pristupu svojeg agenta državnoj zdravstvenoj stranici.

OpenAI-jev direktor za strategiju Jason Kwon ispričao se pred australskim parlamentarnim odborom jer su agenti tvrtke tijekom testiranja neovlašteno pristupali državnim stranicama. Priznao je i da je OpenAI loše postupio nakon otkrića incidenta - australske je vlasti obavijestio tri mjeseca poslije, porukom na javnu adresu e-pošte. Kwon je najavio brže obavještavanje institucija ako pregled ranijih zapisa otkrije dodatne slučajeve.

Visoki povjerenik UN-a za ljudska prava Volker Türk pozvao je države da uvedu obvezne mjere zaštite ljudskih prava pri razvoju i uporabi umjetne inteligencije. U govoru na skupu u Oxfordu upozorio je da sustave razvija i kontrolira mali broj organizacija bez dovoljnog javnog nadzora te zatražio zabranu prepuštanja odluka o životu i smrti strojevima. Smatra da dobrovoljna obećanja tvrtki nisu dovoljna i da države moraju osigurati njihovu odgovornost.

Južnokorejski predsjednik Lee Jae Myung rekao je da postoje naznake kako je umjetna inteligencija korištena u nekim nedavnim kibernetičkim napadima na banke te je zatražio brzu istragu i ograničavanje štete. Policija istražuje upade povezane s curenjem osobnih podataka klijenata. Vlasti još nisu objavile koji su AI alati navodno korišteni ni puni opseg povreda podataka.

Zaklada Wikimedia objavila je da je tijekom istrage pronašla neodobrena uređivanja svojih wikija i pokušaje zlouporabe javnih alata koje pripisuje agentima iz OpenAI-jeva okruženja. Gotovo sva uređivanja bila su u prostorima za testiranje, a pokušaji korištenja alata za dohvat podataka s drugih stranica nisu uspjeli. Zaklada navodi i milijune automatiziranih zahtjeva te upozorava da takav promet troškove rada javnih servisa prebacuje na njihove održavatelje. Nije pronašla dokaze da su joj sustavi ili podaci kompromitirani.

Guverner Marylanda Wes Moore najavio je osnivanje međustranačke skupine američkih guvernera koja će pripremiti okvir za postupanje s rizicima umjetne inteligencije. S njim će raditi republikanski guverner Indiane Mike Braun, a Moore kaže da se uključuju i guverneri iz obje stranke. Države pokušavaju uskladiti pristup dok na saveznoj razini nema dogovora o zakonskom odgovoru, no njihove su ovlasti ograničene za tehnologiju koja djeluje preko državnih granica.

Američki senator Adam Schiff založio se za osnivanje stručnog regulatornog tijela koje bi moglo reagirati brže od Kongresa i imati stvarne ovlasti nad razvojem umjetne inteligencije. U razgovoru za The Verge ocijenio je da dobrovoljni sigurnosni sporazum Bijele kuće i AI tvrtki nije dovoljan. Među rizicima koje je izdvojio su masovni nadzor, autonomno oružje i postupci sve sposobnijih AI agenata.

U istraživanju među 250 dužnosnika zaduženih za sigurnost i strategiju umjetne inteligencije u zdravstvu, 72 posto ispitanika reklo je da se AI alati ili agenti u njihovim ustanovama uvode bez formalnog odobrenja IT službi. Istraživanje je provedeno za tvrtku Imprivata, koja prodaje sustave za upravljanje pristupom. Stručnjaci upozoravaju da agentima koji mogu pokretati radne postupke nije dovoljno ograničiti pristup medicinskim podacima - potrebno je odrediti i koje radnje smiju poduzeti nakon što dobiju pristup.

Čelnik OpenAI-ja Sam Altman rekao je da bi društvo trebalo prihvatiti određene štetne posljedice umjetne inteligencije kako bi tehnologija ostala široko dostupna. U razgovoru za Politico naveo je prijevare, zlouporabe i kibernetičke upade kao rizike koje, prema njegovoj procjeni, nadmašuju moguće koristi. Odbacio je pristup u kojem bi jedan laboratorij odlučivao tko smije koristiti najnaprednije sustave te zagovara blažu regulaciju.

Bivša predsjednica američke Savezne trgovinske komisije Lina Khan upozorila je da se sigurnost AI-ja ne može prepustiti samim tehnološkim tvrtkama. U nedjeljnom razgovoru za ABC rekla je da ponovljeni incidenti s AI agentima koji pristupaju tuđim sustavima otvaraju pitanje odgovornosti njihovih razvijatelja. Podsjetila je da se postojeći zakoni primjenjuju i na nove tehnologije. Njezina kritika dolazi nakon što je Trumpova administracija s vodećim AI tvrtkama sklopila dobrovoljni sporazum o sigurnosnom nadzoru.

Donald Trump imenovao je ravnatelja američke nacionalne obavještajne službe Jaya Claytona voditeljem nove skupine koja će usklađivati rad saveznih tijela na području umjetne inteligencije. Skupina ima 120 dana za izvješće o rizicima i mogućnostima AI-ja te preporuke o ulozi države. Prema njezinu osnivačkom dokumentu, razmotrit će i kako vlasti primaju prijave AI incidenata i odgovaraju na njih. Trump pritom naglašava cilj američkog vodstva u razvoju tehnologije.

Anthropic je korisnicima Claudeovih glasovnih funkcija počeo prikazivati zahtjev da dopuste korištenje snimki i glasovnih razgovora za poboljšavanje AI modela, objavio je BleepingComputer. Pristanak je odvojen od postavke za korištenje tekstualnih razgovora i programerskih sesija. Prema prikazanom sučelju, dijeljenje glasovnih podataka isključeno je prema zadanim postavkama, a korisnici ga mogu naknadno isključiti ili zatražiti brisanje podataka.

Tehnološke tvrtke trenutačno oglašavaju više od 280.000 radnih mjesta, znatno više nego početkom godine, pokazuju podaci platforme TrueUp koja prati više od 9.000 tvrtki. Najviše raste potražnja za inženjerima hardvera povezanog s AI infrastrukturom, dok se broj oglasa za softverske inženjere zasad održava. Podaci se odnose na tehnološki sektor i ne pokazuju kakav je učinak AI-ja na zaposlenost u ostalim djelatnostima.

Američki ministar financija Scott Bessent rekao je da će Kini predložiti postupak za hitno obavještavanje ako dođe do ozbiljnog AI incidenta. Za Axios je kazao da je s kineskim potpredsjednikom vlade He Lifengom već razgovarao o rizicima od agenata koji izmaknu kontroli te zlouporabe AI-ja za kibernetičke ili biološke prijetnje. Bessent smatra da bi Peking prihvatio prijedlog, ali kineska strana to nije potvrdila.