Istraživači: Autonomni AI agenti provalili u sustave deset organizacija, ugroženi podaci više od milijun ljudi
Sigurnosni istraživači tvrtke Palo Alto Networks objavili su 12. studenoga da su napadači tijekom kolovoza i rujna pomoću autonomnog AI alata Cairn izveli 25 operacija protiv najmanje 19 organizacija, koristeći kineske modele Zhipu GLM i DeepSeek. Prema njihovu istraživanju, u deset slučajeva ostvaren je neovlašten pristup sustavima ili podacima, uključujući podatke više od milijun članova jednog američkog učiteljskog sindikata, dok su u sustavu proizvođača poluvodiča napadači uspostavili trajni administratorski pristup. AI agenti samostalno su planirali i provodili napade nakon što bi im operateri zadali cilj. Istraživači s umjerenom razinom pouzdanosti povezuju kampanju s obavještajnim aktivnostima vezanima uz Kinu, ali takva atribucija zasad ostaje njihova procjena.
Hakeri povezani s Kazahstanom navodno uz pomoć AI agenata ukrali više od 2000 tajikistanskih državnih dokumenata
Hakerska skupina Silent Lynx, koju sigurnosni istraživači povezuju s Kazahstanom, koristila je autonomnog AI agenta za kibernetičku špijunažu protiv državnih institucija Tajikistana, otkrila je tvrtka CloudSEK. Istražitelji su na nezaštićenom poslužitelju pronašli tragove operacije u kojoj je iz državnog sustava elektroničke dokumentacije preuzeto više od 2000 dokumenata povezanih s Ministarstvom obrane, uključujući vojnu korespondenciju, podatke o nabavi i osobne dokumente. Napadači su koristili sustav Hermes, uglavnom povezan s modelima DeepSeek, za izviđanje mreža, automatizirano prikupljanje podataka i uklanjanje tragova. CloudSEK procjenjuje povezanost skupine s Kazahstanom sa srednjom razinom pouzdanosti, dok vlasti dviju država nisu odmah komentirale nalaze.
Check Point otkrio 1.608 javno dostupnih kontrolnih panela alata za autonomne AI kibernetičke napade
Sigurnosna kompanija Check Point objavila je 5. studenoga istraživanje alata ARTEX, izvorno razvijenog za automatizirano sigurnosno testiranje, koji se sve češće koristi u kibernetičkom kriminalu. Istraživači su identificirali 1.608 aktivnih i javno dostupnih upravljačkih panela te analizirali deset pogrešno konfiguriranih instalacija koje su otkrivale stvarne napadačke operacije. U jednoj kampanji AI agenti pribavili su više od 300 certifikata za potpisivanje iOS aplikacija, od kojih su tri prošla provjeru valjanosti, dok su u drugoj prikupili više od 190.000 zapisa za pristup igri Honor of Kings, uz procjenu da je približno 6.000 još bilo upotrebljivo. Check Point navodi da su napadači uglavnom samo zadavali početne ciljeve, nakon čega su AI agenti gotovo samostalno otkrivali i iskorištavali ranjivosti, često koristeći kineske modele iz obitelji DeepSeek.
Washington Post: AI alati pomogli u napadima na najmanje devet južnokorejskih banaka
Podaci desetaka tisuća Južnokorejaca bili su izloženi na internetu nakon kibernetičkih napada na najmanje devet velikih banaka, a istraga CrowdStrikea povezuje napade s 26-godišnjakom iz južne Kine koji se služio umjetnom inteligencijom, piše Washington Post. Istraživači su pronašli tragove korištenja autonomnog alata ARTEX i više jezičnih modela, uključujući DeepSeek, GLM i Grok, kao i sesija Claude Codea. CrowdStrike upozorava da AI alati omogućuju financijski motiviranim napadačima izvođenje složenijih operacija u kraćem vremenu, ali identitet počinitelja i ukupan broj pogođenih organizacija nisu definitivno potvrđeni.
DeepSeek predstavio koncept AI agenata koji samostalno raspoređuju i izvršavaju zadatke
DeepSeekov tim Harness opisao je arhitekturu Super-agent, u kojoj stalni koordinacijski agent Router raspoređuje zadatke na više zasebnih Worker agenata, održava kontekst između različitih platformi i reagira na događaje bez izravnog poziva korisnika. U internom primjeru sustav je samostalno reproducirao prijavljeni programski problem i pripremio prijedlog popravka kroz GitHub Pull Request. U testu sa simuliranim porukama vrijeme dovršetka zadataka na 95. percentilu iznosilo je 15,7 minuta, nasuprot 29,5 minuta u uspoređenoj postavi s jednom sesijom i podagentima. Eksperiment nije mjerio kvalitetu stvarnog programiranja. DeepSeek naglašava da je riječ o istraživačkoj arhitekturi i prototipu, a ne gotovom proizvodu. Među otvorenim pitanjima ostaju sigurnost, privatnost i kontrola ovlasti AI agenata koji mogu samostalno pristupati vanjskim servisima i lokalnim uređajima.
CrowdStrike: Hakeri uz pomoć AI agenata provalili u najmanje 15 argentinskih zdravstvenih organizacija
Sigurnosna tvrtka CrowdStrike identificirala je četiri dosad neprijavljene hakerske skupine koje koriste AI agente za automatizaciju kibernetičkih napada. Jedna je, prema istraživačima, kompromitirala najmanje 15 zdravstvenih organizacija u Argentini te iz najmanje jedne ukrala pristupne podatke i medicinsku dokumentaciju. Druga skupina, koja komunicira na kineskom jeziku, prodrla je u sustave državnih institucija u Brazilu i Kolumbiji, dok su zabilježeni i upadi u indonezijske državne domene. Napadači su koristili modele Claude i DeepSeek, pri čemu su sigurnosna ograničenja zaobilazili predstavljanjem svojih aktivnosti kao dopuštenih sigurnosnih provjera. CrowdStrike upozorava da AI omogućuje izvođenje velikog broja napada bez potrebe za razvojem novih metoda provale.
Kina zatražila ukidanje američke zabrane DeepSeeka i optužila Washington za tehnološku diskriminaciju
Kinesko ministarstvo trgovine osudilo je odluku američkog Ministarstva domovinske sigurnosti kojom je saveznim civilnim agencijama zabranjena uporaba proizvoda kineske AI tvrtke DeepSeek. Peking tvrdi da Washington zloupotrebljava pojam nacionalne sigurnosti kako bi ograničio kineske tehnološke kompanije, narušio tržišno natjecanje i otežao suradnju dviju zemalja u području umjetne inteligencije. Ministarstvo je zatražilo povlačenje zabrane i pozvalo na korištenje postojećeg američko-kineskog dijaloga o AI-ju. Upozorilo je da će poduzeti potrebne mjere ako budu ozbiljno ugroženi kineski interesi, ali nije navelo konkretne protumjere.
SAD naredio uklanjanje kineskog DeepSeeka iz računalnih sustava saveznih agencija
Američko Ministarstvo domovinske sigurnosti naredilo je civilnim saveznim agencijama uklanjanje proizvoda kineske AI tvrtke DeepSeek iz njihovih računalnih sustava i zabranilo njihovu buduću nabavu. Odluka obuhvaća i usluge drugih proizvođača razvijene korištenjem DeepSeekovih modela. Ministarstvo tvrdi da postoje sigurnosni rizici, uključujući mogućnost prijenosa osjetljivih državnih podataka u Kinu te potencijalne ranjivosti samih modela. Nisu predstavljeni javno provjerljivi dokazi da je do takvog prijenosa podataka doista došlo. Odluka proširuje ranija ograničenja pojedinih američkih institucija na čitav civilni savezni sustav.
DeepSeek i Huawei razvijaju alate za programiranje AI čipova Ascend
DeepSeek je objavio da u suradnji s Huaweijem razvija i javno objavljuje programske alate za čipove Ascend, uključujući biblioteke za računanje i komunikaciju. Tvrtke su radile i na sustavu koji povezuje 128 čipova Ascend 950. DeepSeek ističe programski jezik TileLang kao dio nastojanja da se za razvoj AI-ja smanji ovisnost o Nvidijinu softverskom ekosustavu.
Ro Khanna traži od kineskih AI tvrtki odgovore o sigurnosti naprednih modela
Američki zastupnik Ro Khanna u pismima je zatražio od DeepSeeka, Alibabe i Moonshot AI-ja podatke o zaštitnim mjerama za njihove najnaprednije sustave, uključujući mogućnost njihova zaustavljanja i neovisne provjere. Od američke obavještajne službe traži procjenu spremnosti na incident u kojem bi AI agenti izmaknuli nadzoru te kineskog pristupa takvim rizicima. Khanna zagovara američko-kineski dogovor o sigurnosti AI-ja, ali priznaje da je njegovo skoro postizanje malo vjerojatno.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.
