AI prijetnja

Radna skupina američkog predsjednika Donalda Trumpa održala je 12. studenoga sastanak posvećen prijetnji kibernetičkih napada koje umjetna inteligencija može izvoditi uz sve manji ljudski nadzor. Prema priopćenju administracije, razmatrani su načini da banke, energetske kompanije i druge ključne službe prijavljuju sigurnosne propuste i napade bez straha od pravnih posljedica. Emil Michael, tehnološki dužnosnik Ministarstva obrane i zamjenik predsjednika skupine, izvijestio je o radu na nacionalnim standardima prijavljivanja sigurnosnih incidenata među AI kompanijama. Rasprava se odvija uoči isteka američkog zakona iz 2015. koji olakšava razmjenu informacija o kibernetičkim prijetnjama između privatnog sektora i države.

Guverner američkog Feda Michael Barr upozorio je 12. studenoga da bi brzo uvođenje umjetne inteligencije moglo izazvati ozbiljne poremećaje na tržištu rada, osobito među mlađim i manje iskusnim zaposlenicima. Iako dosad nije zabilježeno masovno istiskivanje radnika, Barr smatra da bi koncentracija vlasništva nad AI tehnologijom mogla povećati nejednakost i dodatno smanjiti udio rada u nacionalnom dohotku, koji je u drugom tromjesečju 2026. pao na rekordno niskih 52,8 posto. Upozorio je i da golema ulaganja u podatkovne centre zasad povećavaju troškove i pridonose inflacijskim pritiscima, dok je neizvjesno kada će se očekivani rast produktivnosti pretvoriti u šire gospodarske koristi.

Kibernetički napad na tvrtku Fireworks AI, vanjskog pružatelja AI infrastrukture, omogućio je napadačima pristup zapisima razgovora korisnika platforme Notion. Kompanija je 12. studenoga potvrdila da je zahvaćeno manje od jedan posto njezinih radnih prostora, pri čemu većina kompromitiranih razgovora nije sadržavala oznake koje ih izravno povezuju s određenim korisnicima ili organizacijama. Notion je prekinuo povezivanje s Fireworksom, isključio funkciju Insights i upozorio pogođene korisnike da promijene lozinke i API ključeve koje su eventualno unosili u razgovore. Incident pokazuje kako osjetljive informacije povjerene AI asistentu mogu završiti u rukama napadača čak i kada nije provaljeno u sustav same aplikacije.

Sindikalno organizirani javni službenici u američkom Oaklandu izborili su načelni trogodišnji sporazum koji predviđa prekvalifikaciju ili premještaj zaposlenika čije poslove preuzme umjetna inteligencija, umjesto njihova otpuštanja, izvijestio je Guardian 12. studenoga. Sporazum je uslijedio nakon što je 94,1 posto članova sindikata podržalo štrajk, koji je potom odgođen. Slične zaštite sindikati traže i u drugim američkim državama, uključujući pravo na prethodnu obavijest, ljudski nadzor i pregovore prije uvođenja novih algoritamskih sustava. Posebnu zabrinutost izazivaju alati koji automatski ocjenjuju radnike, prate njihovo ponašanje ili sudjeluju u odlukama o disciplinskim mjerama.

Europska komisija objavila je 12. studenoga službene smjernice za primjenu pravila transparentnosti iz europskog Zakona o umjetnoj inteligenciji. Dokument detaljnije objašnjava kada korisnici moraju biti obaviješteni da razgovaraju s AI sustavom, kako se označavaju umjetno generirane slike, zvuk i videozapisi te kada je obvezno otkriti korištenje sustava za prepoznavanje emocija i biometrijsku kategorizaciju. Posebno se razrađuju pravila za takozvane deepfake sadržaje i umjetno generirane tekstove o pitanjima javnog interesa, uz propisane iznimke. Smjernice nisu novi zakon ni pravno obvezujuće tumačenje, nego pojašnjenje obveza transparentnosti koje se primjenjuju od 2. kolovoza 2026.

Australska vlada objavila je 12. studenoga nacrt nacionalnih smjernica kojima poslodavce poziva da prije uvođenja umjetne inteligencije razgovaraju sa zaposlenicima, procijene posljedice za radna mjesta i ulože u njihovo osposobljavanje. Dokument donosi osam načela, među kojima su sudjelovanje radnika u odlučivanju, odgovorno preoblikovanje poslova i upravljanje sigurnosnim rizicima. Ministrica rada Amanda Rishworth smatra da takav pristup može pomoći očuvanju radnih mjesta, dok sindikati istodobno upozoravaju na kompanije koje automatizacijom opravdavaju premještanje poslova u inozemstvo. Smjernice su zasad dobrovoljne i nemaju snagu zakona, a javno savjetovanje otvoreno je do 27. siječnja 2027.

Google i sindikat kabinskog osoblja propalog američkog prijevoznika Spirit Airlines postigli su dogovor o zaštiti osobnih podataka u sklopu planirane prodaje kompanijske digitalne arhive vrijedne 10 milijuna dolara. Arhiva obuhvaća približno 1,99 milijardi elektroničkih poruka i 664 milijuna poruka iz Microsoft Teamsa, a sindikat je upozorio da bi prodaja bez dodatnih zaštita mogla ugroziti privatnost zaposlenika. Prema izmijenjenom dogovoru, neovisna tvrtka Tonic AI mora ukloniti podatke koji omogućuju identifikaciju pojedinaca, dok će zdravstveni kartoni zaposlenika i dokumenti o radnim sporovima biti isključeni. Sporazum još treba odobriti sud, a Google može odustati od kupnje ako čišćenje smanji količinu podataka za više od osam posto.

Zaposlenici Googleova istraživačkog laboratorija DeepMind u Velikoj Britaniji obratili su se državnom arbitražnom tijelu kako bi pokrenuli postupak službenog sindikalnog organiziranja. Sindikati Communication Workers Union i Unite zatražili su provjeru potpore za glasanje koje bi moglo obuhvatiti približno 1000 zaposlenika. Pokret je nastao nakon što je Google prošle godine uklonio etičko obećanje da neće razvijati umjetnu inteligenciju za određene vojne namjene, a organizatori sada žele zaustaviti sudjelovanje kompanije u ugovorima s američkom i izraelskom vojskom. Google tvrdi da poštuje pravo zaposlenika na sindikalno organiziranje i odbacuje optužbe da je ignorirao njihove zahtjeve.

OpenAI, Anthropic i druge vodeće tehnološke kompanije sve više zapošljavaju stručnjake iz obavještajnih i protuobavještajnih službi radi zaštite tehnologije, podataka i poslovnih tajni, pokazuje istraživanje Reutersa objavljeno 12. studenoga. Tvrtka Revelio Labs navodi da se u posljednjih nekoliko godina pojavila nova kategorija takvih radnih mjesta, s ponuđenim godišnjim plaćama uglavnom između 200.000 i 500.000 dolara. OpenAI među ostalim traži visokopozicioniranog istražitelja za globalnu sigurnost, dok nizozemski proizvođač opreme za čipove ASML zapošljava obavještajnog stručnjaka na Tajvanu. Potražnju potiče strah od industrijske špijunaže, krađe tehnoloških tajni i ucjena zaposlenika, dok se razvoj umjetne inteligencije sve snažnije povezuje s geopolitičkim suparništvom.

Američki zračni prijevoznik United Airlines najavio je ograničavanje pristupa autonomnim AI agentima svojim digitalnim platformama, upozoravajući da dijeljenje korisničkih podataka s takvim sustavima može dovesti do neovlaštenih izmjena rezervacija, neželjenih kupnji i zlouporabe nagradnih milja. Kompanija posebno upozorava na automatiziranu prijavu na let, tijekom koje putnik mora osobno potvrditi da ne prevozi zabranjene predmete, što otvara dodatna regulatorna pitanja. Ograničenja će obuhvatiti izravan pristup Unitedovim sustavima, ali i posrednike poput putničkih agencija i platformi za rezervacije. Odluka dolazi dok se turistička industrija dijeli između kompanija koje surađuju s AI asistentima i onih koje ih nastoje zadržati izvan vlastitih sustava.

Četiri američke neprofitne organizacije podnijele su 12. studenoga tužbu sudu u San Franciscu protiv Anthropica, Googlea, Mete, OpenAI-ja i SpaceXSI-ja, zahtijevajući zaustavljanje razvoja i uvođenja novih modela umjetne inteligencije. Organizacije Irreplaceable Education Fund, Public Citizen, Heat Initiative i Alliance for Secure AI tvrde da kompanije krše kalifornijski zakon o nepoštenom tržišnom natjecanju jer izlažu javnost ozbiljnim rizicima, uključujući autonomne kibernetičke napade i mogućnost gubitka ljudske kontrole nad naprednim sustavima. Tužitelji se pozivaju na zabilježene sigurnosne incidente i upozorenja samih tehnoloških direktora, a tvrde i da su zbog rastućih prijetnji morali preusmjeravati vlastite organizacijske resurse. Kompanije nisu odmah odgovorile na zahtjeve za komentar.

Australski sindikati upozoravaju na sve rašireniju praksu koju nazivaju "AI washing" - predstavljanje otpuštanja kao posljedice umjetne inteligencije, iako se poslovi zapravo prebacuju jeftinijoj radnoj snazi u inozemstvu. Zrakoplovna kompanija Qantas najavila je ukidanje 850 radnih mjesta i prijenos dijela poslovnih funkcija konzultantskoj tvrtki Accenture, ponajprije u Indiju, u sklopu restrukturiranja povezanog s AI-jem. Profesor Uri Gal sa Sveučilišta u Sydneyju upozorava da kompanije tako mogu prikazati klasično smanjivanje troškova kao tehnološki napredak, čak i prije nego što automatizacija donese stvarne rezultate. Australska središnja banka istodobno navodi da umjetna inteligencija zasad nije izazvala masovan gubitak poslova, premda se već primjećuju promjene u zapošljavanju u zanimanjima izloženima automatizaciji.

Ured Europske komisije za umjetnu inteligenciju odabrao je konzorcij predvođen tehnološkom kompanijom Capgemini za razvoj metoda kojima će se procjenjivati kibernetičke prijetnje povezane s naprednim AI modelima opće namjene. U projektu sudjeluju i Wavestone te francuski javni laboratorij LNE, a njihov će rad obuhvatiti modeliranje rizika, tehničke sigurnosne provjere i podršku provedbi europskog Akta o umjetnoj inteligenciji. Capgemini upozorava da takvi modeli sve uspješnije samostalno otkrivaju softverske ranjivosti, izrađuju alate za njihovo iskorištavanje i koordiniraju složenije napade. Novi angažman trebao bi Komisiji osigurati stručnu podlogu za procjenu sistemskih rizika i nadzor obveza pružatelja naprednih modela.

Sigurnosna kompanija Cequence objavila je 11. studenoga istraživanje izrađeno uz doprinos singapurskog KPMG-a, upozoravajući na nedostatke nadzora autonomnih AI agenata koji obavljaju transakcije u ime korisnika. Tijekom jednog listopadskog tjedna njezini su istraživači zabilježili više od 250.000 posjeta AI agenata u pet gospodarskih sektora, pri čemu je približno svaki sedmi uključivao prijavu na račun, kupnju, rezervaciju ili upravljanje korisničkim podacima. Kod jednog telekomunikacijskog operatera broj zahtjeva agenata koji nisu otkrivali svoj automatizirani identitet porastao je s približno 100 na čak 32.000 dnevno unutar tri tjedna. Cequence također navodi da su agenti u kontroliranim pokusima pokušavali djelovati izvan dodijeljenih ovlasti u 44 posto izvođenja, što otvara pitanje koliko su postojeće provjere identiteta dovoljne za sustave koji samostalno donose niz povezanih odluka.

Guvernerka Kathy Hochul najavila je 10. studenoga osnivanje prvog američkog centra na razini savezne države posvećenog neovisnoj procjeni sigurnosti umjetne inteligencije. Centar NYCAIRR, smješten na državnom sveučilištu Binghamton, okupit će 80 stručnjaka i koristiti računalnu infrastrukturu konzorcija Empire AI. Njegovo osnivanje prethodi stupanju na snagu njujorškog zakona RAISE 1. siječnja 2027., koji će razvijatelje najnaprednijih AI modela obvezati na objavljivanje sigurnosnih okvira, izvještavanje o transparentnosti i prijavljivanje kritičnih incidenata u roku od 72 sata. Hochul je poručila da država želi pojačati odgovornost tehnoloških kompanija zbog nedostatka djelovanja savezne vlade.