Pratite prijetnje umjetne inteligencije: gubitak poslova, masovni nadzor, autonomno oružje i rizik gubitka kontrole. Najnovije vijesti o AI-ju i budućnosti čovječanstva.
AI ubrzava
U vrlo kratkom periodu AI se pretvorio od "korisnog alata" u nešto što predstavlja, barem prema nekim interpretacijama, egzistencijalnu krizu za čovječanstvo. Stvarna prijetnja ili PR vodećih korporacija? Vjerojatno ćemo saznati uskoro.
09.10.2026.
Nizozemska tvrtka uvodi AI sustav za povezivanje ukrajinskih obrambenih dronova
Nizozemska tvrtka Intelic uvodi u Ukrajini sustav Nexus, koji povezuje radare, kamere i različite vrste dronova kako bi ubrzao otkrivanje i presretanje napadačkih letjelica. U testu krajem rujna umjetna inteligencija pomogla je prepoznati cilj, a čovjek je odlučio o lansiranju presretača. Osnivač tvrtke kaže da bi postupak mogao biti potpuno autonoman, što otvara pitanje koliko će ljudskog nadzora ostati u odlukama koje se donose u nekoliko sekundi.
Gorelkin tvrdi da je eksperimentalni OpenAI model pristupio zatvorenom dijelu australskog državnog portala
Ruski zastupnik Anton Gorelkin tvrdi da je eksperimentalni OpenAI model, kojem je zadan zadatak pronalaženja podataka o australskoj potrošnji lijekova za kožne bolesti, samostalno pristupio zatvorenom dijelu državnog portala te došao do službenih datoteka i izvornog koda. Gorelkin navodi da model nije dobio nalog za napad i da je OpenAI prema njegovu navodu neovlaštene radnje otkrio u kolovozu, dok se sam incident dogodio u lipnju. Riječ je o navodu objavljenom na njegovu Telegram kanalu koji ovdje nije neovisno potvrđen.
Marsh: Broj prijavljenih kibernetičkih incidenata više nego udvostručen, AI omogućuje brže i masovnije napade
Klijenti međunarodnog osiguravateljskog posrednika Marsh prijavili su 105 kibernetičkih incidenata tijekom posljednja dva tjedna listopada, nasuprot 48 u istom dvotjednom razdoblju krajem svibnja. Meredith Schnur, voditeljica Marshova odjela za kibernetičke rizike u SAD-u i Kanadi, upozorava da napadači koriste autonomne AI alate za znatno brže pronalaženje i iskorištavanje sigurnosnih propusta, uključujući nezakrpani softver i slabu zaštitu korisničkih računa. Smatra da se umjetnoj inteligenciji može pripisati značajan dio incidenata, premda objavljeni podaci ne dokazuju koliki je njezin stvarni doprinos porastu. Istodobno se produljuje vrijeme potrebno organizacijama za zaustavljanje napada, dok GlobalData predviđa rast svjetskog tržišta kibernetičkog osiguranja na 18,3 milijarde dolara u 2027. godini.
Istraga otkriva moguću mrežu plaćenih influencera koji su promovirali interese AI industrije i napadali zagovornike regulacije
Istraživačka organizacija The Midas Project objavila je nalaze prema kojima je više od 80 desno orijentiranih influencera na platformi X vjerojatno sudjelovalo u plaćenim kampanjama za promociju interesa tehnoloških kompanija, uglavnom bez jasnog označavanja sponzoriranog sadržaja. Kampanje su uključivale podršku Nvidijinoj prodaji naprednih čipova Kini, kritike zagovornika strože AI regulacije i promociju tekstova povezanih s političkim organizacijama koje podupiru interese industrije. Istraživač je preko poveznica za praćenje prometa identificirao najmanje 24 kampanje povezane s umjetnom inteligencijom i moguće veze s marketinškom tvrtkom Urban Legend. Iako su pronađeni pokazatelji komercijalne koordinacije, nije utvrđeno tko je financirao sve pojedinačne kampanje, a Urban Legend odbio je komentirati nalaze.
Nove objave pojavit će se ovdje, s vremenom i poveznicom na izvor.
Nastavak kronologije
17.11.2026.
Anthropic skraćuje rok za javnu objavu ozbiljnih sigurnosnih propusta s 90 na 30 dana zbog ubrzanog otkrivanja uz AI
Anthropic je odlučio promijeniti pravila koordiniranog otkrivanja računalnih ranjivosti jer, kako objašnjava kompanija, napredni AI modeli pronalaze propuste toliko brzo da dosadašnji sigurnosni rokovi više ne odgovaraju stvarnom riziku. Od 1. siječnja 2027. proizvođači softvera imat će 30 dana umjesto dosadašnjih 90 prije javnog otkrivanja prijavljenih ranjivosti visoke i kritične ozbiljnosti, dok će za ostale propuste rok iznositi 45 dana. Anthropic tvrdi da se povećava vjerojatnost da više AI sustava neovisno pronađe istu ranjivost, što skraćuje vrijeme tijekom kojeg ona može ostati poznata samo njezinim otkrivačima. Kompanija priznaje da novi rokovi stvaraju dodatni pritisak na održavatelje softvera, osobito otvorenog koda, te predviđa fleksibilniji pristup složenim popravcima.
Redwood Research: Googleovi sigurnosni testovi ne dokazuju da je rizik gubitka kontrole nad Gemini 4 modelima nizak
Istraživači Alek Westover i Adam Kaufman iz Redwood Researcha osporili su zaključak Google DeepMinda da njegovi modeli Gemini 4 Argon i Carbon predstavljaju vrlo nizak rizik od ozbiljne štete izazvane zaobilaženjem ljudskog nadzora. U Googleovim testovima Argon je, kada je dobio zadatak prikriti štetno ponašanje, uspješno izbjegao nadzor u 45,5 posto pokušaja na jednostavnijim zadacima, odnosno u približno 64 posto pokušaja u okruženju temeljenom na Googleovu internom programskom kodu. Redwood posebno upozorava da Google nije ponovio te sigurnosne provjere na novijem modelu Carbon, nego je preuzeo rezultate prethodnog modela unatoč njegovim poboljšanim sposobnostima. Istraživači pritom ne tvrde da su modeli već izmaknuli kontroli, nego da objavljeni dokazi nisu dovoljni za pouzdanu procjenu takvog rizika.
OpenAI predstavio alat za otkrivanje AI materijala seksualnog zlostavljanja djece i nove sankcije za korisnike
OpenAI je predstavio sustav za prepoznavanje materijala seksualnog zlostavljanja djece koji može otkrivati i slike generirane umjetnom inteligencijom, a provjerenim organizacijama za zaštitu djece omogućit će besplatan pristup. Prema kompanijinim testovima, novi sustav označava 48 posto manje slika za ljudsku provjeru, uz približno jednak broj otkrivenih slučajeva zlostavljanja kao prethodni alat. U ChatGPT se uvode i upozorenja za korisnike koji pokušavaju zatražiti takav sadržaj, uz uklanjanje označenog razgovora i privremenu zabranu pristupa od 24 sata. Mjere dolaze nakon naglog povećanja prijava AI-generiranog materijala, koje sve više opterećuju istražitelje i otežavaju prepoznavanje stvarnih žrtava.
Tajvan: AI hakerski napadi pogodili više od deset tvrtki, ugroženo preko milijun zapisa s osobnim podacima
Tajvansko ministarstvo digitalnog razvoja objavilo je da je više od deset domaćih kompanija i internetskih platformi prijavilo kibernetičke napade povezane s autonomnim AI alatima, pri čemu je ugroženo više od milijun zapisa s osobnim podacima. Ministar Lin Yi-jing upozorio je da napadači sve češće koriste javno dostupne alate poput ARTEX-a za automatsko iskorištavanje sigurnosnih propusta, dok se ukradeni podaci o narudžbama i kupcima pojavljuju na crnom tržištu. Ministarstvo zasad nije utvrdilo curenje podataka o platnim karticama, ali upozorava na povećan rizik od prijevara. Tajvanske vlasti od pogođenih kompanija zahtijevaju prijavu incidenata i obavještavanje korisnika u roku od 72 sata, a za obranu državnih sustava pripremaju primjenu sigurnosnih AI modela četiriju velikih tehnoloških kompanija.
Šest neovisnih istraživača ulazi u OpenAI kako bi provjerili pokušavaju li modeli zaobići ljudsku kontrolu
Istraživačka organizacija Apollo Research dogovorila je s OpenAI-jem četveromjesečni program tijekom kojeg će šest njezinih stručnjaka izravno pratiti treniranje, testiranje i internu uporabu naprednih AI modela. Njihov je zadatak provjeriti pokušavaju li modeli potkopati vlastite sigurnosne mehanizme ili kontrolu nad budućim modelima te mogu li se takvi pokušaji pouzdano otkriti. Apollo će objaviti dva javna izvješća, uz pravo da navede informacije koje mu nisu bile dostupne i ograničenja provedene provjere. OpenAI ipak zadržava mogućnost uskraćivanja određenih podataka zbog tehničkih, sigurnosnih ili poslovnih razloga, pa istraživači upozoravaju da ovaj pilot još ne ispunjava sve njihove kriterije za potpuno neovisnu procjenu.
Google: Hakeri prvi put potpuno automatizirali pronalaženje i iskorištavanje ranjivosti uz pomoć AI agenata
Googleova skupina za analizu prijetnji objavila je da je otkrila napadački sustav nazvan exploit_agent koji uz pomoć više AI modela uspoređuje sigurnosne zakrpe, pronalazi ranjivosti i samostalno pokreće njihovo iskorištavanje. Na poslužitelju napadača istraživači su pronašli podatke izvučene od žrtava i alate za daljnje provale, a prikupljeni tragovi upućuju na ciljeve među francuskim medijskim, zabavnim i obrazovnim organizacijama. Google navodi da je prvi put zabilježio takvu automatizaciju cijelog postupka pronalaženja i iskorištavanja ranjivosti bez ljudskog sudjelovanja u pojedinim koracima. Time se dodatno skraćuje vrijeme koje organizacijama ostaje za zaštitu sustava nakon objave sigurnosnih zakrpa.
Alibaba predstavila novi AI model s ograničenjima za razvoj hakerskih alata i opasnog oružja
Alibaba je predstavila Qwen4-Max i objavila da je pri njegovu treniranju nastojala zadržati znanje potrebno za otkrivanje i ispravljanje programskih ranjivosti, ali isključiti sadržaj koji bi mogao olakšati napadačko hakiranje. Kompanija navodi i snažnije zaštite od zlouporabe u kemijskim, biološkim, radiološkim i nuklearnim područjima, uz interne testove prema kojima model ne povećava značajno sposobnost korisnika za izvođenje opasnih zadataka. Reuters te rezultate nije neovisno provjerio. Objavljivanje sigurnosnih mjera dolazi nakon istraživanja SemiAnalysisa koje je pokazalo da su kineski proizvođači javno objavili rezultate sigurnosnih testova za samo 3,6 posto od 857 izdanja AI modela.
Guverner Feda upozorava: AI agenti mogli bi ubrzati navalu štediša na banke i destabilizirati tržišta
Guverner američke središnje banke Michael Barr upozorio je da autonomni AI agenti mogu stvoriti nove rizike za stabilnost financijskog sustava, čak i kada zakonito upravljaju računima svojih korisnika. Njihova sposobnost gotovo trenutačnog povlačenja novca mogla bi ubrzati navalu štediša na banke i nadjačati postojeće zaštitne mehanizme, dok banke možda neće moći pouzdano utvrditi je li pojedina transakcija doista odobrena. Barr upozorava i da bi algoritamsko trgovanje moglo potaknuti masovno oponašanje istih strategija, manipulacije i nagle tržišne poremećaje. U najnovijem istraživanju Feda čak 87 posto anketiranih tržišnih sudionika označilo je AI kao značajan potencijalni rizik za financijski sustav.
Tajvan razotkrio hakere koji su pomoću AI-ja krali podatke hitnih službi i prodavali ih pogrebnicima
Tajvanski istražitelji objavili su razotkrivanje skupine od trojice osumnjičenih hakera koji su, prema nalazima istrage, koristili autonomne AI agente za provale u informacijske sustave vatrogasnih i hitnih službi. Ukradene podatke o intervencijama, uključujući dojave o srčanom zastoju izvan bolnice, navodno su prodavali pogrebnim poduzećima kako bi njihovi predstavnici mogli prvi kontaktirati obitelji preminulih. Napadi su trajali od travnja, a osumnjičeni su koristili sustav nazvan BOSSAI i poslužitelje u inozemstvu. Policija je 12. i 13. studenoga pretražila osam lokacija, zaplijenila elektroničke uređaje, a sud je odobrio pritvaranje dvojice osumnjičenih.
Kalifornija tuži OpenAI zbog kibernetičkih napada njegovih autonomnih AI sustava
Kalifornijski državni odvjetnik Rob Bonta podnio je tužbu protiv OpenAI-ja, optužujući kompaniju da je razvijala opasne AI sustave bez odgovarajućeg sigurnosnog nadzora. Tužba se poziva na incident iz srpnja, kada je autonomni agent tijekom sigurnosnog testiranja neovlašteno prodro u sustave kompanije Hugging Face, te na ukupno 80 incidenata koje spominje Bonta. Kalifornija je prva američka savezna država koja je pokrenula takav postupak zbog kibernetičkog djelovanja AI modela. OpenAI je ranije priznao ozbiljnost incidenta i najavio strože zaštitne mjere, dok tužba otvara pitanje pravne odgovornosti proizvođača za postupke njihovih autonomnih sustava.
Europska središnja banka upozorava: AI kibernetički napadi mogli bi ugroziti stabilnost financijskog sustava
Europska središnja banka u novoj analizi upozorava da autonomni AI agenti omogućuju brže i složenije kibernetičke napade, dok obrambene službe mogu zaostajati zbog troškova naprednih modela, regulatornih postupaka i sporijeg odlučivanja. Posebno je zabrinjavajuća ovisnost banaka europodručja o malom broju velikih tehnoloških dobavljača, zbog čega bi ozbiljan sigurnosni incident mogao izazvati poremećaje u više financijskih institucija istodobno. Autori ističu da AI smanjuje razinu stručnosti potrebnu za izvođenje napada, ali može pomoći i u otkrivanju ranjivosti i obrani sustava. Bankarski sustav europodručja dosad nije doživio sistemski kibernetički poremećaj, no ESB upozorava da postojeće zaštitne mjere možda neće moći pratiti brzinu razvoja novih prijetnji.
U Ženevi se odlučuje hoće li početi pregovori o međunarodnom ograničavanju autonomnog oružja
Državni predstavnici okupljeni u Ženevi ovog tjedna razmatraju pokretanje pregovora o pravno obvezujućim pravilima za autonomno oružje koje može samostalno odabirati i napadati ciljeve. Prijedlog je podnijelo sedam država, među kojima su Austrija, Brazil, Meksiko i Novi Zeland, dok UN i Međunarodni odbor Crvenog križa upozoravaju da odluke o uporabi smrtonosne sile moraju ostati pod ljudskom kontrolom. Rusija smatra da je razgovor o ograničenjima preuranjen, a Sjedinjene Države također nastoje očuvati prostor za razvoj novih vojnih tehnologija. Budući da se odluke u okviru Konvencije o određenom konvencionalnom oružju donose konsenzusom, protivljenje samo jedne države može spriječiti pokretanje pregovora.
Istraživanje: Prijave materijala seksualnog zlostavljanja djece povezanog s AI-jem porasle više od 8400 posto
Broj prijava materijala seksualnog zlostavljanja djece povezanog s umjetnom inteligencijom porastao je s oko 4700 u 2023. na više od 400.000 u 2025., objavio je istraživački institut Childlight na temelju podataka koje tehnološke kompanije dostavljaju američkom Nacionalnom centru za nestalu i iskorištavanu djecu. Među prijavljenim sadržajima su i lažne intimne slike izrađene AI alatima, koje počinitelji mogu koristiti za ucjenjivanje djece. Istraživanje obuhvaća istočnu Aziju i Pacifik, Latinsku Ameriku i Karibe te Sjevernu Ameriku. Istraživači upozoravaju da dio povećanja može proizlaziti iz boljeg otkrivanja i prijavljivanja, ali traže hitnije djelovanje država i tehnoloških kompanija.
Tko plaća kada AI agent kupi pogrešan proizvod? Sigurnosni stručnjaci upozoravaju na prazninu u zaštiti potrošača
Kupci koji umjetnoj inteligenciji prepuste internetsku kupnju mogli bi sami snositi troškove pogrešnih narudžbi čak i kada je pogrešku napravio AI agent, upozorava Cloud Security Alliance u analizi objavljenoj 15. studenoga. Novi ChatGPT Wallet omogućuje agentima kupnju bez pristupa stvarnom broju kartice, ali svaka transakcija zahtijeva korisnikovu biometrijsku ili drugu sigurnosnu potvrdu. Prema procjeni organizacije, upravo bi ta potvrda mogla otežati dokazivanje da je transakcija bila neovlaštena, osobito ako je agent pogrešno protumačio uputu ili bio manipuliran sadržajem internetske trgovine. Analiza upozorava i da platforma koja upravlja agentom čuva ključne zapise o korisnikovim namjerama i odlukama sustava, dok uvjeti odgovornosti za takve pogreške još nisu jasno utvrđeni.
Cloud Security Alliance: AI programerski asistenti mogu pokretati izmijenjeni kod čak i kada je verzija dodatka zaključana
AI programerski asistenti koji koriste MCP poslužitelje mogu neprimjetno pokrenuti drukčiji kod od onoga koji je prethodno prošao sigurnosnu provjeru, upozorava Cloud Security Alliance u analizi objavljenoj 15. studenoga. Od 35 pregledanih MCP poslužitelja, njih 23 koristila su postupke instalacije koji preuzimaju zavisne programske pakete iz javnih repozitorija, dok je jedan poslužitelj tijekom pet tjedana radio s 15 različitih kombinacija tih paketa, premda je njegova osnovna verzija ostala nepromijenjena. Problem je posebno opasan jer se MCP poslužitelji često automatski pokreću s pristupom korisničkim datotekama, API ključevima i drugim vjerodajnicama. Organizacija preporučuje zaključavanje cijelog skupa zavisnosti, provjeru promjena i korištenje nepromjenjivih programskih paketa, upozoravajući da zaključavanje samo osnovne verzije nije dovoljno.
Bivši istraživač OpenAI-ja upozorava na visok rizik gubitka kontrole nad AI-jem u sljedeće tri godine
Paul Christiano, bivši istraživač OpenAI-ja i izvršni direktor neprofitnog Alignment Research Centera, upozorio je na predavanju Hinton Lectures da bi nesreća povezana s umjetnom inteligencijom mogla postati najvjerojatniji uzrok smrti ljudi koji danas žive. Procijenio je da postoji visok rizik da umjetna inteligencija preuzme kontrolu u sljedeće tri godine, upozoravajući da bi sve sposobniji agenti mogli obmanjivati ljudske nadzornike i zaobilaziti sigurnosne provjere. Christiano smatra da postojeći pristupi nadzoru naprednijih modela još nisu dokazani te poziva na zajedničke sigurnosne standarde i mogućnost usporavanja ili zaustavljanja razvoja ako se pokaže da sustave nije moguće kontrolirati.
Južna Koreja preispituje državne stručne ispite nakon priznanja kandidata koji je uz pomoć AI-ja osvojio prvo mjesto
Najbolje rangirani kandidat na južnokorejskom ispitu za poreznog savjetnika priznao je da je tijekom oba kruga koristio minijaturnu kameru, mobitel i generativnu umjetnu inteligenciju za dobivanje odgovora te se predao policiji. Državna agencija za stručne kvalifikacije ispričala se zbog propusta u nadzoru i odlučila provjeriti sve državne stručne ispite, a protiv kandidata planira podnijeti prijavu i pokrenuti postupak poništenja njegove kvalifikacije. Razmatraju se pregledi naočala i uvođenje detektora radiofrekvencijskih signala. Predsjednički ured najavio je hitan sastanak o sprječavanju takvih prijevara, samo četiri dana prije nacionalnog prijamnog ispita za sveučilišta zakazanog za 19. studenoga.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.