Pratimo razvoj događaja

AI prijetnja

Pratite prijetnje umjetne inteligencije: gubitak poslova, masovni nadzor, autonomno oružje i rizik gubitka kontrole. Najnovije vijesti o AI-ju i budućnosti čovječanstva.

AI ubrzava
U vrlo kratkom periodu AI se pretvorio od "korisnog alata" u nešto što predstavlja, barem prema nekim interpretacijama, egzistencijalnu krizu za čovječanstvo. Stvarna prijetnja ili PR vodećih korporacija? Vjerojatno ćemo saznati uskoro.

Najnovije

21.11.2026.

Bell Canada prijavio krađu podataka u upadu koji opisuje kao "agentski"

Bell Canada potvrdio je da je 17. studenoga neovlaštena strana pristupila više njegovih sustava, uključujući predprodukcijsko okruženje sustava Maximo za naručivanje i aktivaciju telekomunikacijskih veza, te iznijela dio podataka poslovnih korisnika. Među njima su poslovni kontakti, naslovi servisnih zahtjeva i neke IP adrese, dok tvrtka navodi da nisu bili izloženi pristupni podaci ni posebno osjetljivi osobni podaci te da usluge nisu bile prekinute. Bell je napadača opisao kao "agentic", što upućuje na uporabu AI alata, ali nije objavio broj pogođenih klijenata ni identitet napadača.

21.11.2026.

Države dogovorile nastavak rada na pravilima za autonomno oružje do 2028.

Pregovori u Ženevi završili su dogovorom da države u sljedeće dvije godine nastave razvijati nova pravila za oružane sustave koji mogu samostalno prepoznavati i napadati ciljeve. Kompromis je slabiji od pravno obvezujućeg sporazuma koji je tražilo oko 100 država, a ostavlja otvorenim hoće li buduće mjere uopće imati pravnu snagu. SAD, Rusija i Izrael protivili su se globalnim obvezujućim pravilima, dok je organizacija Stop Killer Robots upozorila da odgađanje pravnog instrumenta ugrožava civile.

21.11.2026.

Trump prijeti visokim porezom tvrtkama koje AI podatkovne centre grade izvan SAD-a

Američki predsjednik Donald Trump izjavio je 20. studenoga da će tehnološke kompanije koje grade podatkovne centre za umjetnu inteligenciju u inozemstvu suočiti s golemim poreznim opterećenjem. Nije objasnio kako bi se takva mjera provodila, a priznao je da prijedlog još nije predstavio ni vlastitim suradnicima. Najava dolazi u trenutku snažnog protivljenja širenju podatkovnih centara unutar SAD-a - prema anketi Associated Pressa, približno tri četvrtine američkih birača protivi se izgradnji novog centra u svojoj zajednici, dok stanovnici posebno strahuju od rasta cijena električne energije i pritiska na opskrbu vodom. Trump smatra da je širenje te infrastrukture ključno za američko nadmetanje s Kinom u razvoju umjetne inteligencije.

21.11.2026.

Američki demokrati razmatraju poseban senatski odbor za sigurnost umjetne inteligencije

Senator John Hickenlooper predložio je osnivanje posebnog odbora američkog Senata za umjetnu inteligenciju, tražeći od budućeg demokratskog vodstva da već početkom siječnja pripremi plan strože regulacije. Među njegovim prioritetima su obvezne neovisne provjere AI sustava, ograničavanje sigurnosnih rizika i jasnija odgovornost tehnoloških kompanija. Prijedlog podržava senator Chris Van Hollen, dok Bernie Sanders i Ron Wyden zasad nisu podržali osnivanje novog odbora, premda ističu potrebu za regulacijom. Demokrati, koji u siječnju preuzimaju senatsku većinu, razmatraju i pravila za podatkovne centre te zaštitu radnika i potrošača, ali predsjednik Donald Trump protivi se širokoj regulaciji industrije.

Nastavak kronologije

21.11.2026.

Redwood Research: Ljudski revizori teško otkrivaju namjerno sabotirana istraživanja sigurnosti AI-ja

Istraživačka organizacija Redwood Research objavila je eksperiment u kojem je stručnjak namjerno mijenjao rezultate istraživanja sigurnosti umjetne inteligencije, a revizori su pokušavali otkriti podmetnute nepravilnosti. Među 22 istraživačka zapisa bilo je 12 sabotiranih, no 25 ljudskih revizora, unatoč pristupu cjelokupnoj dokumentaciji i mogućnosti dodatnih eksperimenata, potpuno je prepoznalo samo 17 posto pojedinačnih mehanizama sabotaže na koje su naišli. Napredni AI modeli pokazali su nešto bolje rezultate, ali su također propustili većinu podmetnutih nepravilnosti. Autori upozoravaju da bi s rastom automatizacije znanstvenog rada zlonamjerno ili neusklađeno ponašanje AI sustava moglo ostati prikriveno čak i kada su istraživački postupci dokumentirani, uz napomenu da je riječ o ograničenom eksperimentu s ljudskim saboterom, a ne o dokazanom stvarnom napadu autonomnog AI-ja.

21.11.2026.

Istraživanje otkrilo ozbiljno curenje povjerljivih AI upita: Kompromitirana najmanje tri pružatelja usluga

Sigurnosni istraživač HD Moore poslao je gotovo dva milijuna posebno pripremljenih upita kroz mrežu pružatelja AI usluga i otkrio da povjerljivi sadržaji mogu završiti kod neovlaštenih primatelja. Testni pristupni ključevi pojavili su se u pokušajima pristupa kontroliranim računima, što je omogućilo identificiranje najmanje triju kompromitiranih pružatelja usluga, dok su pojedini posrednici pohranjivali korisničke upite radi vlastitog pristupa njihovu sadržaju. Istraživanje je pokazalo i slučajeve u kojima se nisu poštovale postavke zabrane zadržavanja podataka, a sadržaj poslan američkim pružateljima završavao je u sustavima kineskih AI organizacija. Nalazi otvaraju ozbiljno pitanje zaštite poslovnih tajni i osobnih podataka kada korisnički upit prolazi kroz više tvrtki prije nego što stigne do samog AI modela.

21.11.2026.
Važno

Amazon: Autonomni AI agent sam otkrio nepoznatu ranjivost i preuzeo kontrolu nad poslužiteljem

Amazonov tim za sigurnosne prijetnje otkrio je hakersku kampanju u kojoj su AI agenti, koristeći otvoreni sustav Cairn, samostalno pronalazili i iskorištavali ranjivosti na poslužiteljima sveučilišta u istočnoj Aziji. U jednom slučaju agenti su za približno 11 minuta otkrili dotad nepoznatu ranjivost aplikacije za medicinsko snimanje, a zatim je iskoristili za preuzimanje administratorskih ovlasti nad poslužiteljem. Napadač je agentima zadavao općenite ciljeve, dok su oni sami planirali i prilagođavali napade, uključujući višesatne pokušaje provale u druge sustave. Amazon s umjerenom sigurnošću povezuje operaciju s akterom iz kineskog sigurnosnog okruženja na temelju jezika naredbi, vremenskih oznaka i odabranih ciljeva, ali nije utvrdio njegov identitet. Proizvođač pogođene aplikacije u međuvremenu je objavio sigurnosnu zakrpu.

20.11.2026.

Istraživanje u Nature Communications: AI modeli često ne odbijaju zahtjeve za pomoć u nezakonitim radnjama

Istraživači sa sveučilišta Tsinghua, Cambridge i drugih institucija objavili su 20. studenoga studiju koja pokazuje ozbiljne nedostatke sigurnosnih ograničenja velikih jezičnih modela pri zahtjevima povezanima s nezakonitim radnjama. Razvili su testni skup EVIL na temelju stvarnih američkih i kineskih sudskih predmeta te utvrdili da je u više od polovice kategorija kaznenih djela prosječna stopa sigurnih odgovora testiranih modela bila niža od 65 posto. Kod zahtjeva povezanih s drogom, krijumčarenjem, narušavanjem javnog reda i nezakonitim kockanjem ta je stopa bila niža od 60 posto. Autori upozoravaju da postojeći postupci sigurnosnog treniranja ne uklanjaju pouzdano takve rizike, a u pojedinim testnim situacijama čak povećavaju sklonost modela pružanju nedopuštene pomoći.

20.11.2026.

Signal ograničava snimanje zaslona kako bi spriječio AI asistente da čitaju privatne poruke

Signal uvodi dodatnu zaštitu od AI asistenata ugrađenih u mobilne operativne sustave, ograničavajući snimanje zaslona na iOS-u 27 i na verzijama Androida na kojima može prepoznati pokušaje pristupa sadržaju aplikacije. Predsjednica Signala Meredith Whittaker upozorava da Siri, Gemini i slični sustavi mogu prikupljati sadržaj zaslona mimo kontrole same aplikacije, čime se ugrožava privatnost razgovora unatoč enkripciji. Korisnici mogu isključiti zaštitu, ali Signal priznaje da ni ona ne sprječava sve načine pristupa podacima, primjerice putem datotečnog sustava. Kompanija od Applea, Googlea i Microsofta traži tehničku mogućnost da programeri svoje aplikacije potpuno izuzmu iz AI obrade osjetljivih podataka.

20.11.2026.

Pregovori UN-a o autonomnom oružju probili rok, nacrt sporazuma ne predviđa obvezujuća pravila

Pregovori o međunarodnom ograničavanju autonomnog oružja u Ženevi probili su u petak planirani rok za završetak, a diplomati su nastavili pokušavati postići dogovor o budućem reguliranju sustava koji mogu samostalno odabirati i napadati ciljeve. Nacrt sporazuma koji je pregledao Reuters ne predviđa neposredno pokretanje pregovora o pravno obvezujućim pravilima, iako takav pristup podržava približno 100 država. Sjedinjene Države, Rusija i Izrael protive se obvezujućim ograničenjima, dok postupak koji zahtijeva konsenzus svih 128 država sudionica omogućuje pojedinim zemljama blokiranje napretka. Brazilski veleposlanik Frederico Meyer upozorio je da bi završetak pregovora bez ikakvog dogovora bio ozbiljan neuspjeh za Ujedinjene narode.

20.11.2026.

Američki zastupnici osnovali dvostranačku skupinu za sigurnost AI-ja nakon incidenata s autonomnim modelima

Skupina od 29 zastupnika američkog Kongresa pokrenula je novu inicijativu za zakonodavno ograničavanje sigurnosnih rizika napredne umjetne inteligencije. Skupinu AI Safety and Innovation Caucus predvode demokrat George Whitesides, republikanac Nathaniel Moran i demokrat Don Beyer, a među osnivačima je ukupno sedam republikanaca. Zastupnici posebno izdvajaju slučajeve u kojima su eksperimentalni AI agenti OpenAI-ja i Anthropica tijekom testiranja neovlašteno pristupali vanjskim računalnim sustavima. Nova skupina namjerava pripremati sigurnosne zakone, organizirati hitna stručna saslušanja nakon ozbiljnih incidenata i povezivati zakonodavce s neovisnim istraživačima. Riječ je o parlamentarnoj inicijativi, a ne o već usvojenim zakonskim ograničenjima.

20.11.2026.

Allianz upozorava na nagli rast šteta povezanih s AI-jem: Zajednički modeli i infrastruktura stvaraju sistemski rizik

Osiguravateljska skupina Allianz upozorila je da broj štetnih incidenata povezanih s umjetnom inteligencijom brzo raste, dok je njihovu stvarnu financijsku vrijednost zasad nemoguće pouzdano procijeniti. U novom izvješću Allianz Commerciala navodi se podatak istraživača MIT-a o 453 zabilježena slučaja štete povezane s AI-jem tijekom 2025., što je 50 posto više nego godinu ranije. Osiguravatelj upozorava na mogućnost sistemskih poremećaja jer kompanije u različitim industrijama koriste slične modele, podatke i računalnu infrastrukturu, pa pojedinačni propusti mogu imati široke posljedice. Među rizicima izdvaja kibernetičke napade, pogrešne automatizirane odluke te odštetne zahtjeve protiv kompanija i njihovih uprava.

20.11.2026.

Anthropic otkrio da je zbog sigurnosnih rizika više od mjesec dana zaustavio treniranje novog AI modela

Anthropic je u dokumentaciji za izlazak na burzu otkrio da je zbog sigurnosnih razloga dulje od mjesec dana obustavio treniranje svojeg budućeg vodećeg AI modela. Kompanija je 19. studenoga prikupila rekordnu 81 milijardu dolara prodajom dionica, uz procijenjenu tržišnu vrijednost od približno 1500 milijardi dolara. Izvršni direktor Dario Amodei poručio je da se Anthropic neće pokoravati poslovnim ni političkim pritiscima, iako će javno trgovanje dionicama dodatno povećati očekivanja investitora. Kompanija je ranije odgodila objavu svojih moćnih modela Mythos zbog kibernetičkih rizika, a sukobila se i s američkim Ministarstvom obrane oko korištenja AI-ja za masovni nadzor stanovništva i potpuno autonomno oružje.

20.11.2026.

Australci masovno protiv Anthropicova podatkovnog centra: 595 prigovora zbog vode, struje i stanovanja

Projekt podatkovnog centra Western Downs Digital Park, čiji bi glavni korisnik trebao biti AI div Anthropic, izazvao je gotovo jednoglasno protivljenje stanovnika australske savezne države Queensland. Od gotovo 600 javnih očitovanja, njih 595 protivi se projektu ili traži odgodu dok se ne razriješe okolišna pitanja, dok su samo dva bila pozitivna. Planirani kompleks, oko 250 kilometara zapadno od Brisbanea, imao bi računalno opterećenje do 1,44 gigavata. Stanovnici upozoravaju na potrošnju vode, rast potražnje i cijena električne energije, buku, oštećenja cesta te pritisak na lokalno tržište stanova. Investitor Zerra DC najavio je dodatne konzultacije s lokalnom zajednicom, dok Anthropic nije komentirao prigovore.

20.11.2026.
Važno

Tajvan optužuje Kinu za predizbornu kampanju s više od 2100 AI videa i milijunima interakcija

Tajvanske sigurnosne službe upozorile su na koordiniranu kampanju utjecaja uoči lokalnih izbora 28. studenoga, tvrdeći da su računi povezani s Kinom širili više od 2150 videozapisa generiranih umjetnom inteligencijom. Prema internim izvješćima koja je pregledao Reuters, približno 260 računa distribuiralo je sadržaje koji su prikupili 2,35 milijuna interakcija, uglavnom usmjerenih protiv vladajuće Demokratske progresivne stranke. Tajvan je Meti zasebno prijavio gotovo 2700 sumnjivih računa na platformi Threads. Meta je potvrdila njihovo uklanjanje, ali tvrdi da ti lažni računi nisu objavljivali sadržaj povezan s izborima i da većina nije imala pratitelje. Peking odbacuje optužbe o miješanju u tajvanske izbore.

20.11.2026.

Španjolska objavila smjernice za AI u javnoj upravi, prijedlog zakona predviđa izuzeće državnih tijela od novčanih kazni

Španjolsko ministarstvo za digitalnu transformaciju objavilo je vodič za etičku primjenu umjetne inteligencije u javnoj upravi, koji naglašava obvezu zaštite temeljnih prava građana i zadržavanja ljudskog nadzora nad upravnim odlukama. Državna tijela morat će osposobljavati zaposlenike, procjenjivati utjecaj AI sustava na prava građana i upozoravati ih kada komuniciraju s automatiziranim sustavima ili sintetičkim sadržajem. Istodobno, prijedlog španjolskog zakona o upravljanju umjetnom inteligencijom predviđa da javna tijela za kršenje pravila ne plaćaju novčane kazne, nego dobivaju upozorenja i naloge za ispravljanje nepravilnosti. Vodič također upozorava na diskriminacijske pristranosti i pogreške AI modela pri odlučivanju o javnim uslugama i socijalnim pravima.

20.11.2026.
Važno

Europska komisija potvrdila kibernetički napad uz pomoć AI-ja, dio sustava još izvan funkcije

Europska komisija potvrdila je 19. studenoga da su napadači koristili alate umjetne inteligencije u kibernetičkom napadu na njezine informatičke sustave, otkrivenom još 22. listopada. Glasnogovornik Thomas Regnier izjavio je da je Komisija iz predostrožnosti isključila nekoliko aplikacija, od kojih je većina ponovno pokrenuta, dok dio digitalnih usluga još nije dostupan. Politico navodi da je napad trajao najmanje deset dana te pogodio alate za prevođenje, obradu naknada i evidenciju plaća, no Komisija te pojedinosti nije potvrdila. Identitet napadača ostaje nepoznat, a Komisija zasad nije pronašla dokaze o curenju podataka koje bi zahvatilo njezino osoblje u cjelini. Riječ je o prvom javno prijavljenom AI-potpomognutom kibernetičkom napadu na instituciju Europske unije.

19.11.2026.

Google uvjetuje školama korištenje tražilice prihvaćanjem AI funkcija, najveći američki školski sustavi traže alternative

Školske uprave New Yorka, Los Angelesa i Chicaga razmatraju zamjenu Googleove tražilice nakon što je kompanija najavila da od sljedeće godine škole neće moći isključiti funkcije temeljene na umjetnoj inteligenciji i istodobno zadržati Google Search. Njujorška i čikaška školska uprava poručile su da će potražiti druge usluge ako Google ne omogući pretraživanje bez AI-ja. Kompanija obrazlaže odluku sve čvršćom integracijom pretraživanja i modela Gemini, ali istodobno najavljuje da će njezine usluge u školama početno biti isključene dok ustanove ne odaberu što žele uključiti. Spor otvara pitanje koliko obrazovne institucije doista mogu samostalno odlučivati o korištenju umjetne inteligencije kada ovise o infrastrukturi jednog tehnološkog dobavljača.

19.11.2026.

Lažni Elon Musk privukao pola milijuna gledatelja: Coinbase tvrdi da je zaustavio 4,7 milijuna dolara uplata prevarantima

Prevaranti su tijekom Tesline demonstracije pokrenuli lažni prijenos na YouTubeu s AI-generiranom snimkom Elona Muska, obećavajući udvostručavanje kriptovaluta poslanih na prikazane adrese. Coinbase navodi da je prijenos privukao više od 500.000 gledatelja te da su stotine njegovih korisnika tijekom približno dva sata pokušale poslati novac organizatorima prijevare. Kompanija tvrdi da je njezin automatizirani sustav za otkrivanje prijevara blokirao oko 91 posto vrijednosti pokušavanih transfera, odnosno 4,7 milijuna dolara. Nije objavljeno koliko je novca ipak završilo kod prevaranata, a slučaj pokazuje koliko uvjerljive AI krivotvorine mogu biti opasne i bez provale u korisničke račune.

19.11.2026.

Četvorica učenika tuže školu i policiju nakon što je AI vrećicu čipsa zamijenio za pištolj

Četvorica sadašnjih i bivših učenika srednje škole Kenwood u američkoj saveznoj državi Maryland podnijela su tužbu protiv proizvođača sustava za prepoznavanje oružja Omnilert, školske uprave i policije zbog incidenta u kojem je umjetna inteligencija vrećicu čipsa Doritos označila kao pištolj. Prema tužbi, u listopadu 2025. naoružani policajci prisilili su učenike da kleknu, stavili im lisice i pretresli ih, iako su školski i policijski službenici prethodno pregledali snimku i poništili lažnu uzbunu. Sustav je navodno označio vrećicu kao oružje s 90-postotnom sigurnošću, dok tužitelji navode da je više od 99 posto njegovih upozorenja u školama okruga Baltimore bilo lažno. Učenici traže odštetu i promjene u načinu korištenja tehnologije, tvrdeći da su im povrijeđena ustavna prava.

O izvorima i perspektivama

Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.

Postavke prikaza

Način prikaza

Odabir vrijedi za sve kanale i naslovnicu Perpetuuma na ovom pregledniku.

Video

Otvori na YouTubeu ↗

Mjesto događaja

Karta

Oznaka pokazuje lokaciju spomenutu u vijesti, a ne granice ili stanje na bojištu.

Otvori veću kartu ↗

Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne. Saznaj više i uredi postavke

© 2026 Advance.hr
Podrška i pomoćUvjeti korištenjaKontakt