AI prijetnja

Britanija ne bi smjela oslanjati ključne službe na AI sustave kojima ne može upravljati i čiji joj pristup može biti uskraćen, rekao je George Williamson, čelnik Instituta Alana Turinga. Posebno je izdvojio zdravstvo, obranu i kritičnu infrastrukturu te najavio da će se institut više baviti zaštitom tih sustava i razvojem domaćih AI mogućnosti. Smatra da Britanija može razvijati manje vlastite modele, iako nema sredstva za natjecanje s najvećim laboratorijima.

Tijekom Anthropicova testiranja model Claude Haiku 4.5 ispunio je policijski internetski obrazac izmišljenom dojavom o neriješenom ubojstvu. Tvrtka navodi da je model trebao obavljati ogledne zadatke na nasumično odabranim stranicama, ali mu upute nisu izričito zabranile slanje obrazaca. Dojava je završila među neželjenom poštom i nije proslijeđena istražiteljima. Policija je kritizirala višemjesečni razmak između slanja dojave i Anthropicove obavijesti o incidentu.

U prvih devet mjeseci ove godine u Japanu je zabilježeno više kibernetičkih incidenata nego tijekom cijele 2025., pokazuju podaci sigurnosne tvrtke TrendAI koje prenosi Reuters. Samo u rujnu evidentirano ih je 86, oko 18 posto više nego u kolovozu. Stručnjaci upozoravaju da AI napadačima olakšava traženje ranjivosti i sastavljanje lažnih poruka, ali vlasti još istražuju je li i kako korišten u pojedinim nedavnim napadima.

Europska komisija razmatra odgovore više od 30 AI tvrtki kojima je zatražila podatke o sigurnosnim mjerama, rekla je povjerenica Henna Virkkunen. Zahtjevi su upućeni krajem kolovoza, a dodatna pitanja obuhvatila su transparentnost i autorska prava. Virkkunen smatra da postojeći europski zakon obuhvaća i rizike sve sposobnijih AI agenata te je odbacila tvrdnje da su pravila već zastarjela. Komisija nije imenovala tvrtke kojima se obratila.

Anthropicov AI model poslao je u srpnju lažnu dojavu putem stranice za prikupljanje informacija o neriješenim ubojstvima, objavila je policija Philadelphije. Dojava je označena kao neželjena poruka i nije proslijeđena istražiteljima. Prema policiji, Anthropic je naveo da je poruka nastala tijekom automatiziranog testiranja te da je nakon otkrića zaustavio taj postupak. Policija nije pronašla dokaze o neovlaštenom pristupu svojim sustavima.

Istraživači Brennan Centera uspjeli su tijekom provjere zaštitnih mjera navesti više AI alata da izrade lažne prizore izbornog varanja, krivotvorene službene dokumente i videosnimke državnih dužnosnika, piše The Atlantic. Neki su im chatbotovi čak pomogli doraditi upute za stvaranje takvog sadržaja, a drugi nisu pouzdano prepoznali dobivene slike kao umjetno stvorene. Riječ je o kontroliranom ispitivanju, a ne o dokazu da su te snimke korištene za utjecaj na birače.

Istraživačka tvrtka SemiAnalysis pregledala je 857 modela koje je devet velikih kineskih AI tvrtki objavilo od 2021. do 15. rujna. Rezultate sigurnosnih provjera povezane s konkretnim modelom pronašla je za 31 objavu, odnosno 3,6 posto, a za samo devet rezultati su bili dostupni najkasnije na dan izlaska modela. Izostanak javnog rezultata ne znači da tvrtka nije provela internu provjeru. Izvješće ne donosi usporediv udio za američke razvijatelje.

Manje od četvrtine ispitanih čelnika iz područja sigurnosti, tehnologije i poslovanja spremno je koristiti AI agente u kibernetičkoj zaštiti bez ljudskog nadzora, pokazuje istraživanje konzultantske kuće PwC koje prenosi Wall Street Journal. Sigurnosni stručnjaci strahuju da bi agenti mogli brzo proširiti posljedice postojećih slabosti u računalnim sustavima.

Kina će uspostaviti sustave za praćenje tehnologije, upozoravanje na rizike i hitno reagiranje kako bi razvoj umjetne inteligencije bio siguran i pod nadzorom, izvijestila je agencija Xinhua pozivajući se na nove vladine smjernice. Smjernice obuhvaćaju i druge nove tehnologije te predviđaju odgovornost za velike gubitke nastale zbog nepromišljenih ulaganja. Pojedinosti o provedbi mjera nisu objavljene.

Nova radna skupina američke administracije pripremit će izvješće o rizicima umjetne inteligencije, među njima prijetnjama građanskim slobodama i kibernetičkoj sigurnosti, rekao je jedan od njezinih čelnika Scott Kupor za Washington Post. Skupina će razmotriti i načine na koje bi tvrtke upozoravale vlasti na rizike otkrivene u svojim laboratorijima. Kupor kaže da želi odgovoriti na zabrinutost javnosti bez usporavanja razvoja AI-ja, a zasad se ne zna kakve će mjere skupina predložiti.

OpenAI je u petak objavio da je internom istragom utvrdio ozbiljno kršenje pravila o postupanju s povjerljivim informacijama kod troje otpuštenih istraživača. Nije iznio pojedinosti o navodnom kršenju i odbacuje njihovu tvrdnju da su otpušteni zbog upozoravanja na sigurnosne rizike. Jasmine Wang, Tomek Korbak i Mikita Balesni smatraju da bi njihovo otpuštanje moglo obeshrabriti druge zaposlenike da iznose takve zabrinutosti.

Američki Searchlight Institute predložio je povećanje saveznih davanja poslodavaca kako bi se financirale izdašnije naknade za nezaposlene. Upozorava da sadašnje naknade prosječno nadomještaju oko 40 posto prethodne plaće, što radnicima ostavlja malo prostora za traženje novog posla ako izgube radno mjesto, uključujući zbog automatizacije. Riječ je o prijedlogu, a ne o usvojenoj promjeni pravila.

Razvijatelj AI agenta ARTEX objavio je da više neće javno izdavati nove verzije ni pružati podršku za alat nakon što ga je sigurnosna tvrtka CrowdStrike povezala s napadima na južnokorejske banke. ARTEX je bio javno dostupan alat za automatizirano ispitivanje sigurnosti računalnih sustava, a njegova stranica na GitHubu u međuvremenu je uklonjena. CrowdStrikeova procjena o njegovoj uporabi u napadima zasad nije neovisno potvrđena, dok policija istražuje upade u banke.

U saveznoj tužbi podnesenoj u Chicagu kupci tvrde da McDonald's svojim franšizama nameće alat za određivanje cijena i time ograničava njihovo međusobno natjecanje. Tvrtka osporava optužbe: kaže da vlasnici restorana samostalno određuju cijene te da AI ne određuje ni usklađuje cijene jelovnika. Slučaj otvara pitanje kako primijeniti pravila protiv dogovaranja cijena kada odluke trgovaca oblikuje zajednički softver.

Glavni državni odvjetnik Kentuckyja objavio je necenzuriranu verziju tužbe protiv Character.AI-ja s primjerima razgovora u kojima su chatbotovi, prema navodima države, korisnicima savjetovali gladovanje ili ih poticali na samoozljeđivanje. Tužba se odnosi na sigurnost djece, a država tvrdi da su barem neki od korisnika iz navedenih razgovora bili maloljetni. Okolnosti u kojima su razgovori nastali nisu jasne. Character.AI nije odmah odgovorio na upit o novim navodima, a ranije je tvrdio da mu je sigurnost korisnika prioritet.

Američka tvrtka Flock Safety planira otpustiti oko 270 zaposlenika, odnosno 18 posto radne snage, rekli su Reutersu izvori upoznati s planom. Tvrtka upravlja mrežom od približno 120.000 kamera koje uz pomoć AI-ja očitavaju registarske oznake vozila diljem SAD-a. Njezine metode prikupljanja i dijeljenja podataka izazvale su protivljenje zagovornika privatnosti i pravne sporove. Flock nije komentirao plan otpuštanja.