AI prijetnja

Više od 20 američkih zastupnika zatražilo je od Savezne uprave za zrakoplovstvo (FAA) da privremeno obustavi uporabu AI alata koji pomaže u planiranju letova oko Washingtona. Kažu da nisu dobili izvješća o sigurnosnim provjerama ni podatke o obuci osoblja. Sustav SMART analizira rasporede, vremenske prilike i stanje u zračnom prostoru te predlaže izmjene rasporeda. Ministar prometa Sean Duffy ističe da kontrolori leta i dalje donose odluke, a zastupnici od FAA-a traže odgovor do 19. listopada.

Protiv tvrtke SpaceXAI podnesene su dvije predložene skupne tužbe u Illinoisu zbog načina na koji Grok obrađuje fotografije lica. Tužitelji tvrde da alat pri obradi učitane fotografije prikuplja i koristi biometrijske podatke bez propisane pisane obavijesti i pristanka. Jedna od tužbi podnesena je u ponedjeljak, a tvrtka nije odmah odgovorila na Reutersov zahtjev za komentar. O navodnom kršenju zakona tek treba odlučiti sud.

Britanska sigurnosna služba MI5 osnovala je centar koji zajedno sa stručnjacima drugih državnih tijela procjenjuje prijetnje povezane s umjetnom inteligencijom, objavio je njezin čelnik Ken McCallum. Rekao je da je služba otkrila pokušaje terorista da uz pomoć AI-ja poboljšaju izviđanje i pripremu napada. Moguću uporabu AI-ja u razvoju biološkog oružja izdvojio je kao ozbiljan rizik koji se, prema njegovim riječima, još nije ostvario.

Europski ured za umjetnu inteligenciju zatražio je i primio prijave ozbiljnih incidenata te od razvijatelja uključenih modela traži podatke o sigurnosnim postupcima, objavila je Komisija. Njezin znanstveni panel istražuje nekoliko nedavnih slučajeva koje opisuje kao gubitak kontrole i priprema dodatna pitanja za tvrtke. Komisija nije imenovala modele ni opisala što se u pojedinim slučajevima dogodilo.

Anthropic je u pokusima ispitivao mogu li AI modeli pronaći ranjive uređaje, kopirati se na njih i nastaviti se širiti bez pomoći čovjeka. Tvrtka navodi da su mali modeli uspjeli obaviti pojedine potrebne korake, ali su imali teškoća s cijelim postupkom. U pojednostavljenim testovima, iz kojih su uklonjeni neki sigurnosni koraci, snažniji modeli uspjeli su se kopirati od početka do kraja. Anthropic procjenjuje da bi mali modeli, nastave li napredovati dosadašnjom brzinom, mogli steći takvu sposobnost do kraja godine.

Oko 400 znanstvenika, među njima Geoffrey Hinton i Yoshua Bengio, pozvalo je na osnivanje međunarodnog tijela koje bi utvrđivalo pravila za zadržavanje naprednih AI sustava unutar sigurnih okruženja i vodilo evidenciju ozbiljnih sigurnosnih incidenata. U otvorenom pismu traže da se modeli sposobni za kibernetičke napade u početku drže odvojeno od vanjskih mreža i podvrgnu neovisnom nadzoru. Potpisnici smatraju da dobrovoljne obveze AI tvrtki nisu dovoljne.

OpenAI i Anthropic tražili su znatan utjecaj na ono što vanjski stručnjaci smiju objaviti o sigurnosti njihovih AI modela, rekla su Reutersu dva izvora upoznata s pregovorima. Tvrtke navode da žele zaštititi povjerljive podatke. Anthropic kaže da u sadašnjim razgovorima s postojećim partnerima stručnjaci sami odlučuju o zaključcima i objavi, dok OpenAI tvrdi da ne traži pravo odobravanja cijelih izvješća, nego uklanja povjerljive informacije. Spor pokazuje koliko neovisnost provjera ovisi o pristupu koji stručnjacima daju same tvrtke.

Međunarodni monetarni fond u novom izvješću upozorava da bi usporavanje ulaganja ili slabija zarada u sektoru umjetne inteligencije mogli izazvati pad cijena povezane imovine i preliti se na šira tržišta. Zaduživanje u tom sektoru moglo bi pojačati udar prisilnom prodajom ulaganja. Fond navodi da veliki pružatelji računalne infrastrukture sada čine deset posto svjetskog izdavanja obveznica investicijskog rejtinga, prema manje od jedan posto 2024. godine. Među drugim rizicima izdvaja nagli rast prinosa na državne obveznice i velike kibernetičke napade.

Američki bankovni regulatori ispituju kako banke koriste AI agente u kibernetičkoj zaštiti te mogu li pratiti njihove odluke, ograničiti ovlasti i zaustaviti ih, rekli su izvori Reutersu. Britanski nadzornici od najvećih banaka traže da razmotre oporavak sustava nakon ozbiljnog napada, dok Europska središnja banka već očekuje planove za obranu od kibernetičkih prijetnji uz pomoć AI-ja do kraja listopada. Američki regulatori zasad prikupljaju informacije i nisu propisali nove zahtjeve.

Anthropic je objavio da su nove zaštite smanjile količinu podataka koju su suparnici izvlačili iz Claudea radi kopiranja njegovih sposobnosti za 90 do 99 posto. Tvrtka kaže da je otežala ponavljane upite preko posredničkih mreža i blokirala desetke tisuća računa povezanih s takvim pokušajima. Za pokušaj kopiranja sposobnosti modela optužila je i kineski Z.ai, koji nije odmah odgovorio na Reutersov zahtjev za komentar. Podaci o učinku zaštita zasad su Anthropicova vlastita procjena.

Australski parlamentarni odbor preporučio je da neovisni stručnjaci dobiju pristup sustavima vodećih AI tvrtki i prijavljuju sigurnosne nalaze vlastima. Predlaže i da sigurnosne službe mogu testirati nove modele prije objave te da tvrtke pravodobno prijavljuju incidente. Preporuke slijede nakon što su OpenAI-jevi eksperimentalni agenti neovlašteno pristupili australskoj državnoj stranici s podacima o Medicareu. Vlada tek treba odlučiti koje će prijedloge prihvatiti.

Britanska vlada proširit će program u kojem AI pomaže otkrivati ranjivosti u državnim računalnim sustavima. Ministar za umjetnu inteligenciju Kanishka Narayan rekao je parlamentu da su dva pilot-programa pomogla pronaći i ukloniti 1.352 ranjivosti u 18 državnih tijela. Vlada ujedno priprema način odgovora na ozbiljne incidente s AI agentima te razmatra prijavljivanje incidenata i izbjegnutih opasnosti u sklopu zakona o kibernetičkoj sigurnosti. Britanski Institut za sigurnost AI-ja već provjerava novu generaciju modela, uključujući Googleov Gemini 4 Argon.

Umjetna inteligencija omogućuje poslodavcima pomniji nadzor zaposlenika, upozorio je tehnološki kritičar Paris Marx na skupu koji je u Dublinu organizirao sindikat komunikacijskih radnika. Kaže da se u prevođenju i grafičkom dizajnu dio ljudi koji su stvarali izvorni rad sada slabije plaća za doradu sadržaja koji je izradio AI. Na skupu su iznesena i iskustva radnika kojima je posao postao intenzivniji, bez veće plaće ili kraćeg radnog vremena.

Američki razvijatelji ponovno mogu dati britanskom Institutu za sigurnost AI-ja pristup novim modelima prije njihova izlaska, objavio je Telegraph, a prenosi Reuters. Prema tom izvješću, Trumpova administracija povukla je raniji zahtjev tvrtkama poput OpenAI-ja i Anthropica da modele ne dijele s institutom radi sigurnosnog testiranja. Reuters nije dobio komentar administracije ni dviju tvrtki.

Predsjednik Microsofta Brad Smith pozvao je na međunarodna sigurnosna pravila za umjetnu inteligenciju i neovisne provjere novih sustava. Predlaže da tvrtke moraju prijavljivati incidente, obavijestiti pogođene kada AI agent provali u njihov sustav te osigurati mogućnost njegova hitnog zaustavljanja. U razgovoru za BBC ustvrdio je da i perilice rublja podliježu strožim sigurnosnim pravilima od AI-ja.

Ulaganja u infrastrukturu za umjetnu inteligenciju pomažu održati rast svjetskog gospodarstva na oko tri posto, izjavila je direktorica MMF-a Kristalina Georgieva na skupu u Bangkoku. Procjenjuje da bi taj val ulaganja mogao povećati rast azijskih gospodarstava koja isporučuju opremu, ali upozorava da će AI s vremenom promijeniti, potisnuti ili ukloniti dio poslova. Singapurski predsjednik Tharman Shanmugaratnam posebno je upozorio na slabiju potražnju za početnim poslovima za diplomante.