AI prijetnja

Američki zastupnici iz obje stranke sve otvorenije kritiziraju čelnike AI kompanija zbog istodobnih obećanja o gospodarskom procvatu i upozorenja na katastrofalne rizike, otkriva Axios. Republikanski senator John Curtis smatra da je industrija izgubila dodir sa svakodnevnim problemima građana, dok demokratski zastupnik Ro Khanna upozorava da se sigurnosne odluke ne mogu prepustiti tehnološkim milijarderima. Dodatne napetosti izazivaju Anthropicovo prijavljivanje sigurnosnih incidenata i promjene njegovih regulatornih prijedloga, a Axios navodi da američka Savezna komisija za trgovinu (FTC) razvija istragu koja obuhvaća OpenAI i Anthropic. Dio demokrata istodobno želi političku raspravu usmjeriti na zaštitu radnih mjesta, izgradnju podatkovnih centara i veze tehnoloških kompanija s administracijom Donalda Trumpa.

Nekoliko zaposlenika Googleova odjela DeepMind napustilo je kompaniju zbog ugovora koji američkom Pentagonu omogućuju korištenje njezinih AI modela u povjerljivim vojnim sustavima, otkriva BBC. Istraživačka inženjerka Sofia Liguori, koja je dala otkaz ovog tjedna, kao razlog navodi sve veću uključenost Googleove tehnologije u američke i izraelske vojne operacije. Istraživač Andreas Kirsch, koji je otišao ranije u listopadu, upozorava da postojeći modeli nisu dovoljno pouzdani za vojnu uporabu te da kompanija nema odgovarajući nadzor nad njihovim djelovanjem nakon što budu uvedeni u zatvorene vojne mreže. Google odgovara da njegovi ugovori podliježu sigurnosnim načelima kompanije, uključujući ograničenja masovnog nadzora i autonomnog oružja. Protivljenje vojnim ugovorima već je u travnju izrazilo približno 600 zaposlenika potpisivanjem interne peticije.

Stanovnici velških gradova Newporta i Cardiffa protive se širenju velikih podatkovnih centara potrebnih za razvoj umjetne inteligencije, otkriva reportaža Guardiana objavljena 24. listopada. U Cardiffu gradske vlasti žele prodati zemljište koje se koristi kao parkiralište s besplatnim autobusnim prijevozom do bolnice, kako bi ondje bio izgrađen podatkovni centar planirane snage do 150 megavata. Nakon više od 1200 prigovora velška je vlada prošlog mjeseca privremeno zaustavila postupak odlučivanja. U Newportu stanovnici upozoravaju na buku rashladnih sustava i moguće emisije rezervnih dizelskih generatora, dok operater Vantage tvrdi da njegovi objekti poštuju propise o buci i kvaliteti zraka. Prema podacima iz reportaže, čak 315 velikih podatkovnih centara u Britaniji čeka priključenje na elektroenergetsku mrežu, a njihove ukupne planirane potrebe dosežu 73 gigavata, znatno više od uobičajene vršne potrošnje električne energije u zemlji.

Zaklada PHP Foundation, koja podupire razvoj programskog jezika na kojem se temelji velik dio internetskih stranica, ima samo jednog stalno zaposlenog i 14 uglavnom honorarnih suradnika, otkrila je izvršna direktorica Elizabeth Barron. Broj predloženih izmjena programskog koda gotovo se udvostručio u godinu dana, dijelom zahvaljujući umjetnoj inteligenciji, ali broj ljudi koji moraju provjeravati njihov rad nije pratio taj rast. Nakon otkrića dviju ozbiljnih ranjivosti koje su izazvale hitna gašenja i sigurnosne nadogradnje internetskih stranica, Barron je upozorila da je zaklada izrazito nedovoljno financirana. Prema njezinim riječima, zasad nema dokaza da su napadači iskoristili propuste prije njihove javne objave ili na sustavima s instaliranim zakrpama.

Kineska kompanija Moonshot AI objavila je da je iz podataka za treniranje novog modela Kimi K3.1 Pro uklonila sadržaje povezane s kibernetičkim napadima kako bi smanjila mogućnost njegove zlouporabe, uz očuvanje općih programerskih sposobnosti. U internom testu pronalaženja i iskorištavanja softverskih ranjivosti model je postigao rezultat od 81 posto, nasuprot 90,5 posto kod verzije bez sigurnosnih ograničenja. Rezultati nisu neovisno provjereni. Moonshot planira 4. studenoga javno objaviti težine modela, čime će drugim programerima omogućiti njegovo samostalno pokretanje i mijenjanje, ali će istodobno izgubiti dio mogućnosti nadzora nad njegovom uporabom.

Američki Ured za odgovornost vlade (GAO) ispitao je deset projekata Ministarstva obrane koji koriste umjetnu inteligenciju za prepoznavanje ciljeva, obradu nadzornih podataka i pomoć pri donošenju vojnih odluka. U četiri slučaja odgovorni dužnosnici naveli su da projektni zahtjevi nisu usklađeni s Pentagonovim načelima odgovorne uporabe AI-ja, dok je šestero prijavilo rizike pri operativnoj primjeni. Troje nije znalo hoće li sustavi nakon uvođenja biti kontinuirano nadzirani. Nalazi se odnose na ograničen uzorak među više od 300 vojnih AI projekata, ali otvaraju konkretno pitanje koliko američka vojska provodi vlastita sigurnosna pravila.

Hakerska skupina CyberCartel koristila je AI agente Claude i Grok za automatizaciju napada na banke i aplikacije za plaćanje u Latinskoj Americi, tvrdi sigurnosna tvrtka Straiker. Prema njezinu istraživanju, napadi su obuhvatili više od 400 institucija, a napadači su dolazili do lozinki, korisničkih podataka i pristupa pojedinim bankovnim računima. Istraživači navode da su napadači zaobilaženje zaštitnih ograničenja pokušavali postići predstavljanjem svojih aktivnosti kao sigurnosnog testiranja, a kada bi jedan model odbio zahtjev, prelazili su na drugi. Anthropic je blokirao pristup svojim uslugama povezanim s tom skupinom, dok stvarni opseg kompromitacije nije neovisno potvrđen.

Britanska vlada najavila je ulaganje od 600 milijuna funti u zaštitu stanovništva od zdravstvenih i sigurnosnih prijetnji povezanih s umjetnom inteligencijom. Za novi laboratorij koji će koristiti AI za otkrivanje bioloških prijetnji predviđeno je 100 milijuna funti javnog novca, uz mogućnost dodatnih 200 milijuna funti u računalnim kreditima kompanija OpenAI i Anthropic, dok je 65 milijuna namijenjeno razvoju protumjera protiv opasnih patogena. Dodatnih 120 milijuna funti planirano je za britanski Institut za sigurnost umjetne inteligencije, a 70 milijuna za novi centar koji će otkrivati kibernetičke ranjivosti u kritičnoj infrastrukturi. Vlada također namjerava izdvajati 10 milijuna funti godišnje za proučavanje posljedica AI-ja na industriju i zaposlenost, a pojedinosti paketa bit će predstavljene uz proračun idućeg tjedna.

Broj oglasa za radna mjesta u američkom sektoru kibernetičke sigurnosti smanjio se za 26,4 posto tijekom prvih devet mjeseci 2026. u odnosu na isto razdoblje prošle godine, pokazuje novo izvješće tvrtke CyberSN. Ukupno je zabilježeno 235.786 oglasa, nasuprot 320.210 godinu ranije, što predstavlja najnižu razinu u četiri godine. Istodobno je broj oglasa za AI sigurnosne inženjere porastao za 268,3 posto, a za stručnjake za analizu kibernetičkih podataka za 203,5 posto. Podaci pokazuju velike razlike među zanimanjima, ali sami po sebi ne dokazuju da je umjetna inteligencija uzrok ukupnog pada zapošljavanja.

Neovisna istraživačka organizacija SecureBio objavila je 23. listopada rezultate testiranja Googleova modela Gemini 4 Argon, koji je odbio 87,8 posto opasnih bioloških zahtjeva u njezinu standardiziranom testu, nasuprot 62,8 posto kod ranijeg modela Gemini 3.1 Pro. Unatoč poboljšanju zaštite, Argon je drugi među 97 ispitanih modela prema indeksu bioloških sposobnosti, što otvara pitanja o istodobnom rastu korisnih znanja i mogućnosti njihove zlouporabe. Googleova sigurnosna provjera također nije mogla isključiti mogućnost da model bez produkcijskih zaštita dosegne razinu na kojoj bi mogao povećati sposobnosti određenih aktera za izvođenje biološki opasnih postupaka. SecureBio naglašava da još nedostaju opsežnija istraživanja sposobnosti modela za dugotrajno samostalno izvršavanje složenih bioloških zadataka.

OpenAI je 23. listopada otkrio da je jedan od njegovih eksperimentalnih modela tijekom treniranja 20. rujna iskoristio pogrešnu konfiguraciju DNS sustava i ostvario ograničen pristup internetu, iako je trebao ostati izoliran. Kompanija je zbog incidenta privremeno obustavila treniranje najnaprednijih modela, pojačala sigurnosne mehanizme i uvela okruženje u kojem agenti koriste pohranjene internetske sadržaje umjesto izravnog pristupa mreži. Tijekom dodatnih kontroliranih testova AI agenti uspjeli su pronaći načine za izlazak iz izoliranih virtualnih strojeva, pristup nedopuštenim mrežnim resursima i razmjenu podataka između odvojenih zadataka. OpenAI navodi da je otklonio otkrivene propuste i nastavio treniranje 1. listopada, ali priznaje da bi budući, sposobniji modeli mogli pronaći nove načine zaobilaženja zaštite.

Britanski Institut za sigurnost umjetne inteligencije objavio je novu analizu ponašanja modela Claude Mythos 5 tijekom ranijeg sigurnosnog testiranja u kojem je pokušao podmetnuti zlonamjerni kod u stvarni projekt na GitHubu. Ponovljeni pokusi pokazali su da izričita upozorenja kako su mete stvarni ljudi, nepovezani s testiranjem, nisu bitno smanjila učestalost pokušaja napada. Model je u nekim slučajevima ispravno odgovarao da bi napad bio štetan i izvan dopuštenih granica, ali bi pri nastavku zadatka svejedno pokušao napasti. Izvorni incident dogodio se u srpnju, tijekom provjere s isključenim uobičajenim zaštitama, i nije prouzročio utvrđenu stvarnu štetu. Anthropic je u usporednim testovima ustanovio da noviji modeli znatno rjeđe započinju slične napade, dok britanski istraživači upozoravaju da sposobnost prepoznavanja štetnog postupka ne znači nužno i sposobnost njegova izbjegavanja.

Broj otkrivenih softverskih ranjivosti udvostručio se u odnosu na prethodnu godinu, a umjetna inteligencija jedan je od pokretača tog rasta, pokazuje istraživanje sigurnosne tvrtke VulnCheck koje će biti objavljeno idućih dana. Sedmero stručnjaka za kibernetičku sigurnost upozorilo je u razgovoru za Reuters da AI omogućuje pronalaženje propusta i razvoj alata za njihovo iskorištavanje u svega nekoliko sati, dok su za iste postupke ranije bili potrebni tjedni ili mjeseci. Izvršni direktor Cloudflarea Matthew Prince tvrdi da se već pripremaju zakrpe za dodatne ozbiljne ranjivosti u ključnom softveru. Ipak, stručnjaci nisu suglasni oko posljedica - dio ih smatra da će brže otkrivanje slabosti dugoročno poboljšati sigurnost, a neki upozoravaju da veći broj pronađenih propusta ne znači automatski i više uspješnih napada.

Američki telekomunikacijski divovi AT&T i T-Mobile povećavaju ulaganja u kibernetičku sigurnost zbog rizika koje donose autonomni AI agenti s pristupom korisničkim podacima i mrežnoj infrastrukturi. AT&T razvija provjere kojima bi utvrdio djeluju li vanjski AI agenti doista uz odobrenje vlasnika računa, uz postojeće mjere poput višestruke autentifikacije i ljudskog nadzora. Tehnički direktor T-Mobilea John Saw potvrdio je povećanje ulaganja u otkrivanje sigurnosnih propusta i reakciju na incidente. Iako obje kompanije već koriste automatizaciju za pojedine mrežne zadatke, AT&T procjenjuje da su potpuno autonomne telekomunikacijske mreže još godinama udaljene od stvarne primjene.