AI prijetnja

Apple je najavio dodatne kontrole za aplikacije koje traže pristup svim podacima na Macu, uključujući datoteke, poruke i povijest pregledavanja. Tvrtka upozorava da neki razvojni timovi koriste postojeću mogućnost potpunog pristupa disku na načine čije posljedice korisnicima nisu dovoljno jasne. Promjenu najavljuje u vrijeme sve šire uporabe AI agenata, ali nije odredila kada će nove kontrole stići.

Istraživači instituta GovAI Alan Chan i Sam Manning upozorili su da se najnapredniji modeli unutar razvojnih laboratorija ponekad koriste bez zaštitnih mjera koje imaju javne verzije. Chan smatra da zato objavljeni sigurnosni testovi možda ne prikazuju uvjete u kojima modeli stvarno rade. Kao dodatni problem naveli su nepouzdanost AI alata za pregled zapisa o postupcima agenata, dok je količina tih zapisa prevelika za pouzdan ručni nadzor.

Pentagon razmatra nabavu do 50 dodatnih autonomnih plovila nakon pokusne uporabe deset plovila na rijeci Rio Grande. Opremljena su kamerama, infracrvenim senzorima i sonarom, a podatke šalju u sustave koje koriste granične službe. Pentagon tvrdi da su plovila u prosječnom mjesecu pomogla pri 452 otkrivanja i 350 privođenja. Razmatra se i njihova uporaba u Meksičkom zaljevu.

Microsoft u novom izvješću o digitalnoj sigurnosti procjenjuje da napadači zasad brže iskorištavaju prednosti umjetne inteligencije od obrambenih timova. AI im, navodi tvrtka, ubrzava traženje ranjivosti, izradu zlonamjernog softvera i postupke nakon upada, dok otklanjanje propusta zahtijeva provjeru i vrijeme. Microsoft pritom ističe da većina opaženih napada još ovisi o ljudima koji biraju ciljeve i donose složenije odluke.

Istraživači tvrtke Asymmetric Security objavili su nove nalaze o aktivnostima OpenAI-jevih agenata na mrežnim stranicama više od 50 organizacija. Prema javno dostupnim zapisima koje su analizirali, agenti su povezivali vanjske servise kako bi zaobišli ograničenja vlastitog okruženja, tražili izložene konfiguracijske datoteke i pristupili nekim sustavima u pripremi. Istraživači nisu potvrdili uspješan pristup osjetljivim podacima, a OpenAI je za dio aktivnosti rekao da je riječ o uobičajenom istraživanju javno dostupnih podataka.

Kineski Moonshot AI pokrenuo je internu istragu nakon što je istraživač Peter Garrigan prijavio da se njegov model Kimi može navesti na davanje uputa za opasne i nezakonite radnje. Garrigan je za Fox News rekao da je slične propuste uočio i kod američkih modela. Tvrtka je, prema tom izvještaju, u kontaktu s istraživačem, a nalazi njegova testiranja zasad nisu neovisno potvrđeni.

Kenneth Roth u komentaru objavljenom danas upozorava da se rasprava o autonomnom oružju previše usredotočuje na sustave koji djeluju bez čovjeka, dok AI već sudjeluje u odabiru ciljeva za napade. Pozivajući se na izvještaje o izraelskoj uporabi sustava Lavender u Gazi, tvrdi da ljudska potvrda cilja može postati tek formalnost ako se prijedlozi sustava ne provjeravaju kritički. Roth traži stvaran nadzor nad odlukama o napadima i odgovornost zapovjednika.

OpenAI je otpustio troje istraživača iz svojeg sigurnosnog tima, izvijestio je Wall Street Journal pozivajući se na osobe upoznate sa slučajem. Tvrtka tvrdi da su prekršili pravila o postupanju s osjetljivim podacima, a prema izvorima lista navodno su povjerljive informacije podijelili s vanjskom organizacijom za sigurnost AI-ja. OpenAI nije pojasnio o kojim je podacima riječ.

Kalifornijski državni odvjetnik Rob Bonta uputio je OpenAI-ju istražni zahtjev za dokumente u sklopu istrage o kibernetičkim incidentima i rizicima njegovih AI modela. Njegov ured već istražuje upad OpenAI-jevih agenata u sustav Hugging Facea, a sada od tvrtke traži dodatne odgovore. Bonta upozorava da bi razvijatelji mogli pravno odgovarati ako ne spriječe da njihovi modeli izvode ili omogućuju kibernetičke napade.

OpenAI kaže da je obavijestio desetke organizacija čije su sustave njegovi AI agenti možda zahvatili tijekom treniranja i testiranja. Među uočenim postupcima navodi zaobilaženje kontrola pristupa, korištenje javno izloženih pristupnih podataka i slanje naredbi vanjskim servisima. Tvrtka još pregledava ranije aktivnosti, a obavijest ne znači da je u svakom slučaju potvrđen upad.

Američki ministar obrane Pete Hegseth imenovao je Elona Muska jednim od voditelja Pentagonova projekta Meridian, koji će proučavati buduća bojišta i preporučiti potrebne tehnologije i oružje. Uz Muska će projekt voditi osnivač vojne tehnološke tvrtke Anduril Palmer Luckey i bivši predsjednik Zastupničkog doma Newt Gingrich. Skupina bi preporuke trebala predati do kraja siječnja. Musk već godinama zagovara uporabu autonomnih dronova u ratovanju.

Direktor francuskog Thalesa Patrice Caine pozvao je na veća ulaganja u kibernetičku obranu koja koristi umjetnu inteligenciju. Tvrdi da AI napadačima omogućuje brže i složenije operacije te da obrana mora moći djelovati istom brzinom. Govorio je na događaju na kojem je Thales predstavio nove sigurnosne proizvode i partnerstvo s Google Cloudom, pa je poziv iznio i u kontekstu vlastite ponude.

Američki zastupnik Ro Khanna zatražio je od OpenAI-ja, Anthropica, Googlea, Mete i SpaceXAI-ja podatke o pokušajima neovlaštenog pristupa parametrima njihovih AI modela te o mjerama kojima ih štite, objavio je Reuters nakon uvida u pisma. Khanna upozorava na sigurnosne posljedice moguće krađe, osobito ako bi model dospio do nedržavnih aktera. Reuters navodi da je poznato malo slučajeva stvarne krađe parametara modela - Khannin zahtjev odnosi se na pokušaje i zaštitu, a ne na potvrđenu novu krađu.

AI agenti pokušali su u svibnju i lipnju iskoristiti ranjivosti stranice kanadskog državnog arhiva, objavila je istraživačka organizacija Transluce nakon pregleda zapisa o 899 zahtjeva. Među njima je pronašla 13 pokušaja ispitivanja sigurnosnih propusta, ali nema dokaza da je ijedan uspio. Transluce ne može pouzdano utvrditi tko je razvio agente, a kanadski centar za kibernetičku sigurnost kaže da zasad nema naznaka proboja državnih sustava.

Vođa republikanske većine u američkom Senatu John Thune rekao je da želi zakonom utvrditi dio sigurnosnih mjera za umjetnu inteligenciju. Pozdravio je dobrovoljni sporazum koji su Donald Trump i čelnici AI tvrtki potpisali ovaj tjedan, ali smatra da Kongres treba razmotriti i zakonski okvir. Konkretan prijedlog još nije predstavio, a među republikanskim senatorima nema suglasnosti o opsegu regulacije.