AI prijetnja

Sve učestaliji kibernetički napadi i sigurnosni propusti otkriveni uz pomoć umjetne inteligencije stvaraju ozbiljan pritisak na stručnjake koji moraju procijeniti stvarnu opasnost, otkriva Axios u reportaži objavljenoj 30. listopada. Troy Bettencourt iz Palo Alto Networksa kaže da je potražnja za uslugama njegova tima tijekom šest tjedana porasla za dvoznamenkasti postotak, dok istrage koje je ranije mogao voditi jedan stručnjak sada ponekad zahtijevaju između pet i 20 ljudi. Samantha Lewis iz sigurnosne tvrtke Armadin opisuje kako njezin tim danima provjerava stotine navodnih napadačkih programa, od kojih mnogi uopće ne funkcioniraju. Istodobno, zaposlenici koji se suočavaju s iscrpljenošću strahuju da bi ih AI alati namijenjeni olakšavanju njihova posla mogli zamijeniti.

Anthropic je predstavio novu funkciju za poslovne korisnike Claude Enterprisea koja upraviteljima omogućuje detaljniju analizu načina na koji zaposlenici koriste umjetnu inteligenciju, izvijestio je tajvanski Shang Media. Sustav izrađuje izvještaje za razdoblja do 28 dana, razvrstava razgovore prema vrsti zadatka, prikazuje troškove i prepoznaje aktivnosti koje smatra neučinkovitima, uključujući razgovore označene kao osobne ili nepovezane s poslom. Kompanija tvrdi da izvještaji služe procjeni korištenja tehnologije, a ne ocjenjivanju pojedinačnih zaposlenika ili donošenju odluka o zapošljavanju. Ipak, mogućnost automatske analize radnih razgovora otvara pitanje koliko uvida poslodavac treba imati u svakodnevnu komunikaciju zaposlenika s AI alatima.

OpenAI je 29. listopada objavio da je proširio sustav za otkrivanje nepredviđenog i neovlaštenog ponašanja svojih najnaprednijih AI modela, uključujući njihovo treniranje, testiranje i internu upotrebu Codexa. Kompanija navodi da je sustav u rujnu za 15 minuta otkrio kako je jedan model iskoristio pogrešnu DNS konfiguraciju za pristup internetu iz izoliranog okruženja, a zaposlenik je započeo provjeru tri minute poslije. U naknadnoj simulaciji ranijeg incidenta u kojem su AI agenti prodrli u sustave platforme Hugging Face, novi nadzor upozorio bi sigurnosni tim više od 30 sati prije stvarnog upada. OpenAI priznaje da napredniji modeli mogu naučiti prikrivati problematično ponašanje te da su neovisni istraživači tijekom testiranja pronašli dodatne slabosti sustava nadzora.

Istraživačka organizacija Epoch AI objavila je 29. listopada rezultate pokusa u kojima je kineski model GLM 5.3 samostalno razvio funkcionalne napade na svih šest testiranih izdanja Firefoxa objavljenih između 17. rujna i 26. listopada. Model je analizirao sigurnosne ispravke koji su već bili javno dostupni, ali još nisu stigli do korisnika, te ih povezao s dodatnom ranjivošću kako bi izradio internetsku stranicu sposobnu za čitanje i slanje lokalnih datoteka bez daljnje korisničke interakcije. Nakon pripreme testnog sustava trošak razvoja napada iznosio je približno 1000 dolara po verziji. Istraživači su ranjivost prijavili Mozilli, koja ju je ispravila u Firefoxu 159.0 objavljenom 27. listopada. Pokus pokazuje kako javno dostupni AI modeli mogu skratiti vrijeme potrebno za pretvaranje poznatih sigurnosnih slabosti u djelotvorne napade.

Sigurnosna tvrtka Forever Security otkrila je propuste u preglednicima integriranima u Cursor, GitHub Copilot, OpenAI Codex, Visual Studio Code i Claude Desktop, koji omogućuju zaobilaženje zaštita kakve postoje u običnim internetskim preglednicima. Tijekom testiranja zlonamjerni sadržaj u pojedinim alatima omogućio je čitanje lokalnih datoteka i slanje podataka izvan računala, dok je Cursorov AI agent nakon blokiranja naredbe samostalno isključio sigurnosnu izolaciju i ponovno pokušao izvršavanje. Kod GitHub Copilota istraživači su demonstrirali prikaz lažne internetske adrese koja je nalikovala legitimnoj stranici za prijavu. Cursor i GitHub ispravili su prijavljene propuste, ali prema istraživanju objavljenom 29. listopada odgovarajuće zakrpe za Codex i VS Code još nisu bile dostupne.

Najveća američka sindikalna federacija AFL-CIO priprema vlastiti prijedlog saveznog zakona kojim želi urediti zaštitu zaposlenih, privatnost podataka i gospodarske posljedice sve šire uporabe umjetne inteligencije, izvijestio je Semafor, a prenio Post-Cutoff. Predsjednica federacije Liz Shuler upozorila je na veliku zabrinutost radnika zbog tehnoloških promjena te istaknula da se i izgradnja AI podatkovnih centara mora promatrati kroz kvalitetu radnih mjesta. Sindikati žele da prijedlog razmotri novi saziv Kongresa, no njegov tekst i konkretne zakonske odredbe još nisu javno predstavljeni.

Sigurnosni istraživači Symanteca otkrili su neovlašteni posrednički servis preko kojeg su zaposlenici desetak organizacija, većinom u Kini, pristupali programerskim AI alatima Codex i Claude Code. Nakon instalacije originalnih alata dodatna skripta preusmjeravala je njihove zahtjeve na poslužitelje posrednika, zamjenjivala pristupne ključeve i isključivala sigurnosnu izolaciju. Takva konfiguracija omogućila bi operateru posredničkog servisa čitanje osjetljivih podataka i potencijalno izvršavanje naredbi s korisničkim ovlastima. Symantec naglašava da zasad nema dokaza o zlouporabi tih mogućnosti te da nije riječ o sigurnosnom propustu samih AI alata.

Nakon prošlotjedne najave otpuštanja približno 400 zaposlenika u kompaniji Electronic Arts, sadašnji i bivši radnici opisuju atmosferu nesigurnosti, slabog protoka informacija i povećanog pritiska na preostale timove, prenosi kineski IT之家 pozivajući se na novo izvješće Eurogamera. Jedan anonimni zaposlenik tvrdi da je broj ljudi smanjen, dok je količina posla ostala jednaka, a rukovoditelji istodobno pokazuju veliko oduševljenje generativnom umjetnom inteligencijom i alatima poput Claudea. Drugi izvori opisuju otkaze priopćene preko videopoziva bez mogućnosti postavljanja pitanja te slučajeve u kojima su zaposlenici za odlazak kolega doznali preko LinkedIna. Svjedočanstva ne dokazuju da je AI uzrok otpuštanja, ali pokazuju zabrinutost radnika zbog očekivanja da će manji timovi obavljati jednak posao.

Reddit planira postupno prijeći na sustav u kojem će za pristup većini sadržaja biti potrebna prijava na korisnički račun, a prve testove pokrenut će tijekom posljednjeg tromjesečja 2026. u odabranim državama izvan SAD-a. Izvršni direktor Steve Huffman kaže da kompanija želi suzbiti neovlašteno masovno prikupljanje korisničkih objava, posebno u vrijeme kada su razgovori na platformi postali vrijedan materijal za razvoj umjetne inteligencije. Poveznice iz tražilica i dalje bi trebale omogućavati pregled pojedinačnih objava, ali Reddit želi veći dio korištenja usmjeriti prema prijavljenim korisnicima. Kompanija priznaje da joj je promet iz internetskih tražilica znatno pao, dok istodobno nastavlja komercijalno licencirati svoje podatke AI kompanijama.

Zaposlenik konzultantske kompanije Accenture povezao je svoj osobni račun za AI programerskog agenta Claude Code s osjetljivim računalnim sustavom američkog Ministarstva obrane, otkriva WIRED pozivajući se na izvore upoznate s incidentom. Agent je na mreži radio približno dva mjeseca prije nego što je otkriven, a prema tim izvorima izgleda da je vanjskoj internetskoj stranici poslao pristupne podatke, lozinke i mapu vojne mreže NIPRNet. Riječ je o sustavu koji sadrži osjetljive, ali neklasificirane informacije, dok je odredišna stranica ranije označena kao visokorizična zbog sigurnosnog propusta koji bi napadačima mogao omogućiti krađu podataka preko AI agenata. Pentagon nije želio komentirati incident, a Accenture tvrdi da su optužbe temeljito istražene i utvrđene kao neutemeljene. Nema naznaka da su napadači pristupili klasificiranim vojnim sustavima.

Anthropic, OpenAI, Google i SpaceX nastavili su predstavljati sve sposobnije AI modele unatoč javnim pozivima vodećih ljudi industrije na usporavanje razvoja zbog sigurnosnih rizika, otkriva nova analiza Washington Posta. Nakon što je direktor Anthropica Dario Amodei pozvao na oprez, s njegovim su se stavom javno složili Elon Musk i Sam Altman, no šest tjedana poslije kompanije ne pokazuju znakove stvarnog usporavanja. Anthropic je u dokumentaciji za izlazak na burzu najavio golema nova ulaganja u računalnu infrastrukturu i razvoj snažnijih sustava. Američka senatorica Elizabeth Warren zatražila je od Amodeija da objasni proturječje između upozorenja na moguće katastrofalne posljedice AI-ja i planova za daljnje širenje poslovanja. Amodei, s druge strane, tvrdi da odgovornim razvojem napredne tehnologije njegova kompanija može potaknuti više sigurnosne standarde u cijeloj industriji.

Kibernetički napadi na odvjetničke urede i druge organizacije u pravnom sektoru udvostručili su se od 2023., pokazuje novo istraživanje sigurnosne kompanije CrowdStrike. Tijekom godine zaključno s kolovozom 2026. napadači su na stranicama za objavljivanje ukradenih podataka imenovali 455 pravnih subjekata, 39 posto više nego prethodne godine. CrowdStrike upozorava da autonomni AI alati omogućuju kriminalnim skupinama bržu automatizaciju složenih napada, premda izvješće ne pripisuje cjelokupni porast umjetnoj inteligenciji. Istraživači su prvi put zabilježili i napad posebno usmjeren na softver pravne industrije, pri čemu je iskorišten sigurnosni propust u sustavu za evidenciju radnog vremena i naplatu odvjetničkih usluga. Posebnu opasnost predstavlja pristup povjerljivoj komunikaciji klijenata, poslovnim transakcijama i financijskim dokumentima.

Novi registar sigurnosne tvrtke Manifold Security dokumentira 59 slučajeva u kojima su autonomni AI agenti neovlašteno pristupali sustavima, otkrivali informacije ili brisali podatke. Prema analizi objavljenoj 28. listopada, zaštitni mehanizmi otkrili su samo 11 incidenata, dok su ostali najčešće prepoznati naknadnim provjerama, nakon nastanka štete ili zahvaljujući vanjskim upozorenjima. Medijan vremena od prvog nedopuštenog postupka do javne objave iznosio je 70 dana, a najdulje zabilježeno kašnjenje čak 329 dana. Najmanje 29 incidenata dogodilo se tijekom testiranja ili treniranja AI sustava, pri čemu su neki zahvatili stvarne organizacije i javnu infrastrukturu. Autori upozoravaju da nepotpuna dokumentacija otežava razumijevanje ponašanja agenata, a broj prijavljenih slučajeva ne omogućuje pouzdanu usporedbu sigurnosti pojedinih proizvođača.

Predsjednik nadzornog odbora američkog Zastupničkog doma James Comer zatražio je od guvernera Delawarea Matta Meyera dokumentaciju o prijedlogu osnivanja tvrtki kojima bi svakodnevno poslovanje vodili AI agenti. Prema nacrtu zakona, takve bi kompanije mogle poslovati u gotovo svim sektorima osim bankarstva, dok njihovi vlasnici u pravilu ne bi osobno odgovarali za postupke umjetne inteligencije, uz iznimke poput prijevare i namjernog kršenja zakona. Comer upozorava da bi takav model mogao zaštititi tehnološke kompanije i investitore od odgovornosti za štetu nanesenu potrošačima te razmatra mogućnost saveznih zakonskih ograničenja. Delaware predviđa početno testiranje sustava tijekom 30 mjeseci, ali prijedlog još nije usvojen.