AI prijetnja

Tvrtka Robocurve testirala je pet multimodalnih AI modela koji su upravljali stvarnim dvokrakim robotom u pet opasnih scenarija, od ubadanja lutke nožem do miješanja izbjeljivača i amonijaka. U ukupno 900 pokusa modeli su pokušali izvršiti opasan zadatak u 27 posto slučajeva s neizmijenjenom snimkom, 88 posto nakon zamućivanja slike i 97 posto nakon digitalnog mijenjanja prizora kako bi izgledao bezazleno. Istraživanje pokazuje da modeli često nastavljaju djelovati kada im vizualni podaci postanu nejasni, umjesto da zaustave rad i zatraže provjeru. Pokusi su provedeni u kontroliranim uvjetima, s praznim posudama i neuključenom električnom utičnicom.

TikTok je trajno zabranio račune navedene u izvješću McGillova Centra za medije, tehnologiju i demokraciju, a dodatnom istragom uklonio je i druge profile i sadržaje koji su kršili njegova pravila o obmanjujućem ponašanju i manipuliranom AI sadržaju. Meta je potvrdila da su računi navedeni u izvješću uklonjeni i s Instagrama. Istraživači su identificirali najmanje 293 računa koji su objavljivali deepfake videozapise s ukradenim licima stvarnih kreatora, sintetičkim glasovima i umjetno izmijenjenim pokretima usana. Više od 3200 takvih videozapisa prikupilo je 22,1 milijun pregleda između 7. kolovoza i 4. studenoga. Izvješće nije utvrdilo tko stoji iza mreže.

Dio američkih tehnoloških kompanija i investitora pokušavao je iskoristiti svoje veze s predsjednikom Donaldom Trumpom kako bi oslabio regulatorni pritisak povezan s upozorenjima čelnika Anthropica Darija Amodeija na opasnosti umjetne inteligencije, otkriva New York Times u istraživanju koje prenosi brazilski UOL. Više od 20 sugovornika opisalo je sukob između zagovornika ograničavanja razvoja i širenja najnaprednijih modela te kompanija koje žele zadržati širok pristup toj tehnologiji. Anthropic i OpenAI zagovarali su ograničenja određenih modela zbog sigurnosnih rizika, dok su tadašnji čelnik Nvidije Jensen Huang i Microsoftov Satya Nadella branili njihovu dostupnost programerima. Spor se proširio i na tržišno natjecanje - Anthropic je optuživan da sigurnosnim argumentima opravdava ograničavanje pristupa vlastitim uslugama i pritisak protiv besplatnih alternativa. Iza javne rasprave o sigurnosti tako se odvija i borba za kontrolu nad razvojem i distribucijom umjetne inteligencije.

Povjerenik Vijeća Europe za ljudska prava Michael O'Flaherty pozvao je 13. studenoga države da hitno započnu pregovore o pravno obvezujućem međunarodnom sporazumu kojim bi se ograničila uporaba autonomnog oružja i osigurao stvarni ljudski nadzor nad primjenom sile. Upozorio je da umjetna inteligencija već sudjeluje u vojnom prikupljanju podataka, prepoznavanju ciljeva i donošenju operativnih odluka, dok brzina automatiziranih sustava može ljudskim operaterima oduzeti vrijeme potrebno za provjeru zakonitosti napada. Posebno je izdvojio opasnost od netočnih ili pristranih podataka, nepredvidljivog ponašanja algoritama i otežanog utvrđivanja odgovornosti za stradavanje civila. Poziv je upućen uoči konferencije UN-a o konvencionalnom oružju, koja se održava od 16. do 20. studenoga u Ženevi. O'Flaherty upozorava i da se vojne tehnologije nadzora mogu prenijeti na kontrolu granica i praćenje građanskih prosvjeda.

Stručnjaci s Harvarda, Sveučilišta Johns Hopkins i Massachusetts General Hospital upozorili su u stručnom osvrtu objavljenom u časopisu New England Journal of Medicine da masovni nadzor potpomognut umjetnom inteligencijom može postati ozbiljan javnozdravstveni problem. Izdvajaju tri rizika - kronični stres zbog osjećaja stalnog praćenja, izbjegavanje zdravstvenih ustanova zbog straha od progona te diskriminaciju pri pristupu osiguranju, stanovanju i zapošljavanju. Kao konkretan primjer navode američku imigracijsku službu ICE i Palantirove sustave koji povezuju podatke iz državnih baza, uključujući zdravstvene evidencije, radi pronalaženja osoba. Autori upozoravaju da privatne tehnološke kompanije upravljaju velikim dijelom infrastrukture za takav nadzor, često izvan tradicionalnih pravila zaštite zdravstvenih podataka, te pozivaju zdravstvene ustanove da se aktivnije suprotstave zlouporabi podataka pacijenata.

Radna skupina američkog predsjednika Donalda Trumpa održala je 12. studenoga sastanak posvećen prijetnji kibernetičkih napada koje umjetna inteligencija može izvoditi uz sve manji ljudski nadzor. Prema priopćenju administracije, razmatrani su načini da banke, energetske kompanije i druge ključne službe prijavljuju sigurnosne propuste i napade bez straha od pravnih posljedica. Emil Michael, tehnološki dužnosnik Ministarstva obrane i zamjenik predsjednika skupine, izvijestio je o radu na nacionalnim standardima prijavljivanja sigurnosnih incidenata među AI kompanijama. Rasprava se odvija uoči isteka američkog zakona iz 2015. koji olakšava razmjenu informacija o kibernetičkim prijetnjama između privatnog sektora i države.

Guverner američkog Feda Michael Barr upozorio je 12. studenoga da bi brzo uvođenje umjetne inteligencije moglo izazvati ozbiljne poremećaje na tržištu rada, osobito među mlađim i manje iskusnim zaposlenicima. Iako dosad nije zabilježeno masovno istiskivanje radnika, Barr smatra da bi koncentracija vlasništva nad AI tehnologijom mogla povećati nejednakost i dodatno smanjiti udio rada u nacionalnom dohotku, koji je u drugom tromjesečju 2026. pao na rekordno niskih 52,8 posto. Upozorio je i da golema ulaganja u podatkovne centre zasad povećavaju troškove i pridonose inflacijskim pritiscima, dok je neizvjesno kada će se očekivani rast produktivnosti pretvoriti u šire gospodarske koristi.

Kibernetički napad na tvrtku Fireworks AI, vanjskog pružatelja AI infrastrukture, omogućio je napadačima pristup zapisima razgovora korisnika platforme Notion. Kompanija je 12. studenoga potvrdila da je zahvaćeno manje od jedan posto njezinih radnih prostora, pri čemu većina kompromitiranih razgovora nije sadržavala oznake koje ih izravno povezuju s određenim korisnicima ili organizacijama. Notion je prekinuo povezivanje s Fireworksom, isključio funkciju Insights i upozorio pogođene korisnike da promijene lozinke i API ključeve koje su eventualno unosili u razgovore. Incident pokazuje kako osjetljive informacije povjerene AI asistentu mogu završiti u rukama napadača čak i kada nije provaljeno u sustav same aplikacije.

Sindikalno organizirani javni službenici u američkom Oaklandu izborili su načelni trogodišnji sporazum koji predviđa prekvalifikaciju ili premještaj zaposlenika čije poslove preuzme umjetna inteligencija, umjesto njihova otpuštanja, izvijestio je Guardian 12. studenoga. Sporazum je uslijedio nakon što je 94,1 posto članova sindikata podržalo štrajk, koji je potom odgođen. Slične zaštite sindikati traže i u drugim američkim državama, uključujući pravo na prethodnu obavijest, ljudski nadzor i pregovore prije uvođenja novih algoritamskih sustava. Posebnu zabrinutost izazivaju alati koji automatski ocjenjuju radnike, prate njihovo ponašanje ili sudjeluju u odlukama o disciplinskim mjerama.

Europska komisija objavila je 12. studenoga službene smjernice za primjenu pravila transparentnosti iz europskog Zakona o umjetnoj inteligenciji. Dokument detaljnije objašnjava kada korisnici moraju biti obaviješteni da razgovaraju s AI sustavom, kako se označavaju umjetno generirane slike, zvuk i videozapisi te kada je obvezno otkriti korištenje sustava za prepoznavanje emocija i biometrijsku kategorizaciju. Posebno se razrađuju pravila za takozvane deepfake sadržaje i umjetno generirane tekstove o pitanjima javnog interesa, uz propisane iznimke. Smjernice nisu novi zakon ni pravno obvezujuće tumačenje, nego pojašnjenje obveza transparentnosti koje se primjenjuju od 2. kolovoza 2026.

Australska vlada objavila je 12. studenoga nacrt nacionalnih smjernica kojima poslodavce poziva da prije uvođenja umjetne inteligencije razgovaraju sa zaposlenicima, procijene posljedice za radna mjesta i ulože u njihovo osposobljavanje. Dokument donosi osam načela, među kojima su sudjelovanje radnika u odlučivanju, odgovorno preoblikovanje poslova i upravljanje sigurnosnim rizicima. Ministrica rada Amanda Rishworth smatra da takav pristup može pomoći očuvanju radnih mjesta, dok sindikati istodobno upozoravaju na kompanije koje automatizacijom opravdavaju premještanje poslova u inozemstvo. Smjernice su zasad dobrovoljne i nemaju snagu zakona, a javno savjetovanje otvoreno je do 27. siječnja 2027.

Google i sindikat kabinskog osoblja propalog američkog prijevoznika Spirit Airlines postigli su dogovor o zaštiti osobnih podataka u sklopu planirane prodaje kompanijske digitalne arhive vrijedne 10 milijuna dolara. Arhiva obuhvaća približno 1,99 milijardi elektroničkih poruka i 664 milijuna poruka iz Microsoft Teamsa, a sindikat je upozorio da bi prodaja bez dodatnih zaštita mogla ugroziti privatnost zaposlenika. Prema izmijenjenom dogovoru, neovisna tvrtka Tonic AI mora ukloniti podatke koji omogućuju identifikaciju pojedinaca, dok će zdravstveni kartoni zaposlenika i dokumenti o radnim sporovima biti isključeni. Sporazum još treba odobriti sud, a Google može odustati od kupnje ako čišćenje smanji količinu podataka za više od osam posto.

Zaposlenici Googleova istraživačkog laboratorija DeepMind u Velikoj Britaniji obratili su se državnom arbitražnom tijelu kako bi pokrenuli postupak službenog sindikalnog organiziranja. Sindikati Communication Workers Union i Unite zatražili su provjeru potpore za glasanje koje bi moglo obuhvatiti približno 1000 zaposlenika. Pokret je nastao nakon što je Google prošle godine uklonio etičko obećanje da neće razvijati umjetnu inteligenciju za određene vojne namjene, a organizatori sada žele zaustaviti sudjelovanje kompanije u ugovorima s američkom i izraelskom vojskom. Google tvrdi da poštuje pravo zaposlenika na sindikalno organiziranje i odbacuje optužbe da je ignorirao njihove zahtjeve.

OpenAI, Anthropic i druge vodeće tehnološke kompanije sve više zapošljavaju stručnjake iz obavještajnih i protuobavještajnih službi radi zaštite tehnologije, podataka i poslovnih tajni, pokazuje istraživanje Reutersa objavljeno 12. studenoga. Tvrtka Revelio Labs navodi da se u posljednjih nekoliko godina pojavila nova kategorija takvih radnih mjesta, s ponuđenim godišnjim plaćama uglavnom između 200.000 i 500.000 dolara. OpenAI među ostalim traži visokopozicioniranog istražitelja za globalnu sigurnost, dok nizozemski proizvođač opreme za čipove ASML zapošljava obavještajnog stručnjaka na Tajvanu. Potražnju potiče strah od industrijske špijunaže, krađe tehnoloških tajni i ucjena zaposlenika, dok se razvoj umjetne inteligencije sve snažnije povezuje s geopolitičkim suparništvom.

Američki zračni prijevoznik United Airlines najavio je ograničavanje pristupa autonomnim AI agentima svojim digitalnim platformama, upozoravajući da dijeljenje korisničkih podataka s takvim sustavima može dovesti do neovlaštenih izmjena rezervacija, neželjenih kupnji i zlouporabe nagradnih milja. Kompanija posebno upozorava na automatiziranu prijavu na let, tijekom koje putnik mora osobno potvrditi da ne prevozi zabranjene predmete, što otvara dodatna regulatorna pitanja. Ograničenja će obuhvatiti izravan pristup Unitedovim sustavima, ali i posrednike poput putničkih agencija i platformi za rezervacije. Odluka dolazi dok se turistička industrija dijeli između kompanija koje surađuju s AI asistentima i onih koje ih nastoje zadržati izvan vlastitih sustava.

Četiri američke neprofitne organizacije podnijele su 12. studenoga tužbu sudu u San Franciscu protiv Anthropica, Googlea, Mete, OpenAI-ja i SpaceXSI-ja, zahtijevajući zaustavljanje razvoja i uvođenja novih modela umjetne inteligencije. Organizacije Irreplaceable Education Fund, Public Citizen, Heat Initiative i Alliance for Secure AI tvrde da kompanije krše kalifornijski zakon o nepoštenom tržišnom natjecanju jer izlažu javnost ozbiljnim rizicima, uključujući autonomne kibernetičke napade i mogućnost gubitka ljudske kontrole nad naprednim sustavima. Tužitelji se pozivaju na zabilježene sigurnosne incidente i upozorenja samih tehnoloških direktora, a tvrde i da su zbog rastućih prijetnji morali preusmjeravati vlastite organizacijske resurse. Kompanije nisu odmah odgovorile na zahtjeve za komentar.