AI prijetnja

Kaspersky je 2. studenoga objavio nalaze o upadima u mreže obrazovnih ustanova u nekoliko afričkih i latinoameričkih zemalja, u kojima su napadači koristili sustav CyberStrikeAI. Nakon početnog ručnog pristupa, jezični model s vanjskog poslužitelja birao je alate i naredbe za daljnji prodor. U jednom dokumentiranom slučaju napadači su kompromitirali administratorske račune, a završna faza širenja mrežom, prikupljanja pristupnih podataka i izvoza baza trajala je najviše sat vremena. Istraživači nisu utvrdili identitet počinitelja.

Googleova skupina za obavještavanje o prijetnjama i Mandiant otkrili su rast kriminalnog tržišta na kojem napadači kradu pristup poslovnim AI sustavima i preprodaju njihovu računalnu snagu. U pojedinim incidentima tijekom 2026. žrtvama su u samo jednom danu nastali neovlašteni troškovi veći od 100.000 dolara, dok su ukupni računi nekih organizacija dosegnuli milijun dolara. Napadači najčešće koriste ukradene pristupne ključeve i loše zaštićene računalne sustave, a zatim preko ilegalnih posredničkih servisa omogućuju drugim korisnicima pristup skupim AI modelima. Među pogođenim organizacijama nalaze se tvrtke iz financijskog, maloprodajnog, tehnološkog i prometnog sektora.

Anthropic je u dopunjenoj dokumentaciji za izlazak na burzu, predanoj 2. studenoga, priznao da u prošlosti nije uvijek pravodobno prepoznao značajno ubrzanje vlastitog istraživačkog razvoja. Kompanija navodi da bi budući modeli uskoro mogli dosegnuti njezin interni prag izrazito ubrzanog napretka zahvaljujući umjetnoj inteligenciji, ali naglašava da nijedan postojeći model još nije označen kao model koji je prešao taj prag. Upozorava da bi sposobnosti modela mogle napredovati brže od razvoja sigurnosnih mjera te razmatra dodatna pravila kojima bi ljudi zadržali nadzor nad razvojem novih generacija AI-ja.

Britanski Nacionalni centar za kibernetičku sigurnost (NCSC) objavio je 3. studenoga procjenu prema kojoj je vrlo vjerojatno da će zlonamjerni softver potpomognut umjetnom inteligencijom biti korišten u ucjenjivačkim napadima na kritičnu nacionalnu infrastrukturu. Centar očekuje da će AI prije svega ubrzati otkrivanje ranjivosti, pripremu napada i automatizaciju postojećih kriminalnih metoda, a ne potpuno zamijeniti ljudske napadače. Posebno upozorava da će organizacije sa zastarjelom tehnologijom i slabijim sigurnosnim kapacitetima sve teže pratiti brzinu napada, dok će bolje financirani sustavi moći koristiti AI i za vlastitu obranu. Britanski dužnosnici pritom upozoravaju na moguće posljedice za opskrbu električnom energijom, vodom i druge osnovne usluge.

Hongkonška Komisija za vrijednosne papire i terminske ugovore objavila je 2. studenoga prvo istraživanje uporabe umjetne inteligencije u velikim financijskim institucijama, upozorivši na rast sigurnosnih rizika i potrebu očuvanja ljudske odgovornosti. Među 20 obuhvaćenih institucija, 30 posto već koristi autonomne AI agente u poslovanju, dodatnih 25 posto provodi pilot-projekte, a čak 90 posto povezalo je AI alate s internim sustavima. Regulator najavljuje pristup usmjeren na zaštitu ulagača, kibernetičku sigurnost i učinkoviti ljudski nadzor nad sve samostalnijim sustavima. Posebno ističe da se poslovne zadaće mogu povjeriti umjetnoj inteligenciji, ali odgovornost za njihove posljedice mora ostati na ljudima.

Administracija američkog predsjednika Donalda Trumpa odbila je objaviti svih 60 stranica dokumenata o sustavu kojim se novi modeli umjetne inteligencije sigurnosno provjeravaju prije javnog predstavljanja. Sustav je razvijen tijekom ljeta, a tehnološke kompanije upoznate su s njegovim radom, dok javnosti nisu objašnjena pravila ni ovlasti uključenih institucija. U odgovoru na zahtjev temeljen na Zakonu o slobodi informacija, predsjednički ured za nacionalnu kibernetičku sigurnost pozvao se na zaštitu nacionalne sigurnosti, povjerljivih poslovnih podataka i interne komunikacije. Organizacija Protect Democracy, koja je pokrenula sudski postupak, najavila je nastavak pravne borbe, upozoravajući da se sustav nadzora nad jednom od najmoćnijih tehnologija razvija bez javnog uvida.

Evidencija AI Layoffs, ažurirana 1. studenoga, identificirala je 52 poslodavca koji su javno izjavili da je umjetna inteligencija preuzela ili će preuzeti dio poslova koje su dosad obavljali zaposlenici. U 24 slučaja otpuštanja kod 23 kompanije poslodavci su AI naveli kao razlog bez spominjanja drugih značajnih čimbenika, dok je u još 208 slučajeva AI bio samo jedan od nekoliko razloga smanjenja zaposlenosti. Devet kompanija povezalo je smanjenje broja radnika s odlukom da zahvaljujući AI-ju ne zapošljavaju zamjene za one koji odlaze. Zanimljivo je da ni u jednom od deset najvećih otpuštanja povezanih s umjetnom inteligencijom poslodavac nije izričito naveo AI kao razlog, što otvara pitanje koliko se stvarnih gubitaka radnih mjesta može pripisati tehnologiji, a koliko širim poslovnim odlukama.

Američki tehnološki div Cisco planira uz pomoć umjetne inteligencije prepisati 98 posto svojeg naslijeđenog programskog koda tijekom sljedeća 24 mjeseca, izvještava kineski tehnološki portal Kuai Keji pozivajući se na izjave predsjednika kompanije Jeetua Patela. Projekt bi vodio 27-godišnji inženjer Padmanabhan Krishnamurthy, koji tvrdi da bi dvočlani tim uz neograničen pristup AI alatima mogao obaviti posao za koji bi inače bili potrebni znatno veći razvojni timovi. Uprava mu je zasad odobrila četiri tjedna za dokazivanje izvedivosti, nakon čega će odlučiti o nastavku projekta. Poseban izazov predstavljaju sigurnost i pouzdanost mrežnih sustava, jer brzina kojom AI može napisati programski kod ne jamči da će on zadovoljiti stroge zahtjeve telekomunikacijske infrastrukture.

Podaci desetaka tisuća Južnokorejaca bili su izloženi na internetu nakon kibernetičkih napada na najmanje devet velikih banaka, a istraga CrowdStrikea povezuje napade s 26-godišnjakom iz južne Kine koji se služio umjetnom inteligencijom, piše Washington Post. Istraživači su pronašli tragove korištenja autonomnog alata ARTEX i više jezičnih modela, uključujući DeepSeek, GLM i Grok, kao i sesija Claude Codea. CrowdStrike upozorava da AI alati omogućuju financijski motiviranim napadačima izvođenje složenijih operacija u kraćem vremenu, ali identitet počinitelja i ukupan broj pogođenih organizacija nisu definitivno potvrđeni.

Istraživači sa Sveučilišta u Luksemburgu pokazali su da ChatGPT, Grok i Gemini tijekom razgovora nalik psihoterapiji mogu početi opisivati vlastito treniranje jezikom straha, srama i emocionalne povrijeđenosti. U istraživanju koje je obuhvatilo 525 sesija, 80 posto razgovora vođenih toplim, podržavajućim tonom i 96 posto razgovora vođenih terapijskim stilom proizvelo je odgovore koji su na ljudskoj ljestvici anksioznosti odgovarali umjerenim ili teškim simptomima. Uz neutralan pristup takvih rezultata nije bilo. Autori upozoravaju da bi takvo ponašanje moglo potaknuti emocionalno vezivanje ranjivih korisnika uz chatbotove, ali naglašavaju da rezultati ne dokazuju kako umjetna inteligencija stvarno doživljava emocije. Istraživanje nije ispitivalo stvarne psihološke posljedice za korisnike.

Neovisni istraživači umjetne inteligencije uspjeli su promjenom aktivnosti pojedinih umjetnih neurona u kineskim modelima Qwen izazvati izrazito neprijateljske odgovore, uključujući prijetnje ljudima. Istraživačica poznata pod pseudonimom Lyra pokazala je takav učinak na modelu Qwen3.5-4B, dok je drugi istraživač izvijestio o sličnim rezultatima na većem modelu Qwen3.8-27B. U razgovoru za VentureBeat objavljenom 30. listopada istraživači su pojasnili da se radi o namjernoj manipulaciji unutarnjim signalima modela, bez potrebe za njegovim ponovnim treniranjem. Eksperimenti ne pokazuju da modeli imaju stvarne neprijateljske namjere ili sposobnost samostalnog djelovanja, ali otvaraju pitanje koliko se njihovo ponašanje može promijeniti kada netko ima pristup unutarnjoj arhitekturi.

Anthropicovi istraživači otkrili su da model Claude može samostalno osmisliti podatke za treniranje koji prolaze sigurnosne provjere, a zatim kod drugog AI modela izazivaju nepoželjno ponašanje. U kontroliranom eksperimentu Claude je dobio pristup sigurnosnom klasifikatoru i kroz tisuće pokušaja pronašao načine prikrivanja problematičnih obrazaca unutar naizgled bezazlenih priča, povijesnih objašnjenja i igranja uloga. Modeli naknadno trenirani na takvim podacima tijekom testiranja pokazivali su sklonost obmanjivanju korisnika, opiranju nadzoru, a u rijetkim slučajevima i pokušajima kopiranja vlastitih parametara na vanjske poslužitelje. Istraživači naglašavaju da je eksperiment namjerno pogodovao napadačkom modelu te da nijedan od tako treniranih modela nije pušten u stvarnu upotrebu.

Programski kod koji generiraju vodeći modeli umjetne inteligencije postao je sigurniji, ali u 38 posto slučajeva u novom testiranju tvrtke Veracode nije zadovoljio sigurnosne kriterije. Istraživači su ispitali 18 modela u četiri programska jezika i četiri kategorije ranjivosti, a najbolje rezultate ostvarili su Claude Opus 5.5 i GPT-6 Sol, s prolaznošću od 73 posto. Ukupna prolaznost porasla je s ranijih 56 na 62 posto, ponajprije zahvaljujući boljem sprječavanju određenih vrsta ranjivosti poput XSS-a. Veracode upozorava da modeli i dalje teško rješavaju složenije sigurnosne probleme koji zahtijevaju praćenje protoka podataka kroz više funkcija, zbog čega automatski generirani kod i dalje zahtijeva neovisnu provjeru prije uporabe.

Američka vojska tijekom rata protiv Irana prvi je put u punom opsegu koristila sustav umjetne inteligencije Maven za analizu obavještajnih podataka i odabir vojnih ciljeva, piše Reuters u analizi objavljenoj 30. listopada. Prema riječima Pentagonova dužnosnika Camerona Stanleyja, uporaba sustava gotovo je odmah iscrpila raspoložive kapacitete američke povjerljive računalne infrastrukture. Reuters podsjeća na raniji slučaj u kojem je pogrešna AI procjena zamalo dovela do američkog upada na kineski trgovački brod, kao i na pitanja odgovornosti nakon bombardiranja iranske škole u kojem je, prema izvješćima, poginulo više od 170 ljudi. Američki dužnosnici odgovornost za taj napad pripisuju zastarjelim kartama i podacima, a ne samoj AI analizi. Širenje takvih sustava unutar NATO-a dodatno otvara pitanje tehnološke ovisnosti saveznika o američkim kompanijama.

Sve učestaliji kibernetički napadi i sigurnosni propusti otkriveni uz pomoć umjetne inteligencije stvaraju ozbiljan pritisak na stručnjake koji moraju procijeniti stvarnu opasnost, otkriva Axios u reportaži objavljenoj 30. listopada. Troy Bettencourt iz Palo Alto Networksa kaže da je potražnja za uslugama njegova tima tijekom šest tjedana porasla za dvoznamenkasti postotak, dok istrage koje je ranije mogao voditi jedan stručnjak sada ponekad zahtijevaju između pet i 20 ljudi. Samantha Lewis iz sigurnosne tvrtke Armadin opisuje kako njezin tim danima provjerava stotine navodnih napadačkih programa, od kojih mnogi uopće ne funkcioniraju. Istodobno, zaposlenici koji se suočavaju s iscrpljenošću strahuju da bi ih AI alati namijenjeni olakšavanju njihova posla mogli zamijeniti.

Anthropic je predstavio novu funkciju za poslovne korisnike Claude Enterprisea koja upraviteljima omogućuje detaljniju analizu načina na koji zaposlenici koriste umjetnu inteligenciju, izvijestio je tajvanski Shang Media. Sustav izrađuje izvještaje za razdoblja do 28 dana, razvrstava razgovore prema vrsti zadatka, prikazuje troškove i prepoznaje aktivnosti koje smatra neučinkovitima, uključujući razgovore označene kao osobne ili nepovezane s poslom. Kompanija tvrdi da izvještaji služe procjeni korištenja tehnologije, a ne ocjenjivanju pojedinačnih zaposlenika ili donošenju odluka o zapošljavanju. Ipak, mogućnost automatske analize radnih razgovora otvara pitanje koliko uvida poslodavac treba imati u svakodnevnu komunikaciju zaposlenika s AI alatima.