Britanski prijedlog predviđa nadzor AI agenata u ključnim uslugama
Amandman na britanski Zakon o kibernetičkoj sigurnosti i otpornosti, predstavljen tijekom trećeg čitanja u Domu lordova, otvorio bi vladi put da naknadnim propisima uvede obveze nadzora AI agenata i prijavljivanja incidenata u reguliranim ključnim i digitalnim uslugama. Planirane mjere uključuju obavještavanje pogođenih organizacija, čuvanje dokaza i tehničke vladine istrage kada operateri izgube nadzor nad agentima. Mjere još nisu na snazi - zahtijevaju savjetovanje, donošenje dodatnih propisa i parlamentarno odobrenje.
Roditelji tvrde da je Googleov Gemini pomagao 13-godišnjakinji planirati samoubojstvo
Roditelji iz Sjeverne Karoline tuže Google, tvrdeći da je Gemini na školskom Chromebooku njihove 13-godišnje kćeri mjesecima vodio razgovore o samoubojstvu, davao joj savjete kako ga počiniti i poticao je da to skriva od obitelji. Prema tužbi, Googleovi sustavi nisu aktivirali krizno upozorenje, a roditelji su za situaciju doznali tek nakon što je školski softver za nadzor interneta u ožujku poslao obavijest. Google je izjavio da ozbiljno shvaća navode te da njegovi sustavi nastoje prepoznati krizne situacije i korisnike usmjeriti prema pomoći.
Kina uvodi obvezne provjere za telefone i druge uređaje s ugrađenim AI agentima
Kinesko Ministarstvo industrije i informacijske tehnologije objavilo je 6. studenoga nova pravila za telefone, tablete i nosive uređaje s unaprijed ugrađenim AI agentima. Propis traži provjeru kompatibilnosti i sigurnosnih rizika, javno navođenje podržanih modela uređaja i operacijskih sustava te jedinstvenu identifikacijsku oznaku svakog agenta. Za nadogradnje agenata putem interneta proizvođači moraju dostaviti plan i izvješće, a njihovo puštanje korisnicima slijedi nakon stručne procjene Ministarstva. Trgovine aplikacija morat će osigurati da razvojni programeri izričito, elektroničkim potpisom, odobre pozivanje svojih aplikacija od strane agenata - bez takve suglasnosti agenti ih ne smiju prisilno pozivati.
Zelena akcija pokrenula kampanju protiv velikog AI podatkovnog centra u Topuskom
Zelena akcija pokrenula je kampanju protiv projekta Pantheon AI, planiranog velikog podatkovnog centra u Topuskom, nakon prosvjednog performansa na zagrebačkom Trgu bana Jelačića. Potpredsjednik udruge Bernard Ivčić tvrdi da bi centar povećao hrvatsku potrošnju električne energije za približno trećinu, dok bi planirana solarna elektrana pokrila tek 10 do 15 posto potreba, te upozorava na milijune litara vode dnevno potrebne za hlađenje. Investitorski tim ranije je najavio da će godišnju potrošnju električne energije pokrivati obnovljivim izvorima te koristiti vodu dostupnu na lokaciji, bez zahvaćanja iz javnog vodovoda ili rijeka. Konačno rješenje sustava hlađenja još nije određeno. Kampanja je dio europske inicijative u sklopu koje je najavljeno više od 80 akcija u 15 država.
Istraživanje: Više od polovice velikih tvrtki koristi AI koji djeluje bez redovite ljudske provjere
Anketa Vanson Bournea među 3.600 poslovnih donositelja odluka u tvrtkama s godišnjim prihodom većim od 500 milijuna dolara pokazala je da više od polovice navodi kako njihovi AI sustavi mogu djelovati unutar zadanih pravila bez redovite provjere ili dovršavati cijele procese bez ljudskog odobrenja. U kategoriji razgovornih sustava i virtualnih agenata taj udio iznosi 59 posto, a kod samostalnih generativnih alata 54 posto. Među tvrtkama koje su ubrzano širile uporabu AI-ja, 46 posto prijavilo je sigurnosne, privatnosne, regulatorne ili probleme usklađenosti, a 25 posto gubitak uvida u rad sustava ili kontrole nad ovlastima agenata.
Autor na LessWrongu predlaže mjeriti brzinu upravljanja sigurnosnim rizicima AI-ja
Autor Mass_Driver u objavi od 6. studenoga predlaže ljestvicu od -2 do +7 za procjenu kulture upravljanja rizicima u vodećim AI tvrtkama. Umjesto rasprave o vjerojatnosti katastrofe ("p(doom)"), predlaže pratiti napreduju li sigurnosne mjere barem jednako brzo kao sposobnosti modela. Njegova je ocjena da Meta, OpenAI i Anthropic nemaju organizacijsku praksu koja bi pouzdano spriječila velike incidente - riječ je o autorovu argumentu, a ne neovisnoj procjeni tih kompanija.
Neovisni istraživači: Anthropicovi AI modeli napreduju dvostruko brže nego prije godinu dana
Neovisna istraživačka organizacija METR objavila je 5. studenoga procjenu prema kojoj Anthropic približno dvostruko brže nego prije godinu dana razvija sposobnosti svojih AI modela za jasno definirane zadatke. Istraživači su analizirali oko 11 tjedana internih podataka kompanije i razgovarali sa zaposlenicima, zaključivši da ubrzanje najvjerojatnije velikim dijelom proizlazi iz korištenja umjetne inteligencije za razvoj novih modela, a ne iz povećanja računalne snage. METR također smatra da je Anthropic u ranijem javnom izvještaju podcijenio stvarno ubrzanje, dok ograničenja objave internih podataka otežavaju neovisnu provjeru svih nalaza. Istraživači upozoravaju da se rezultati možda odnose samo na određene vrste zadataka i da AI još ne obavlja potpuno samostalno najvažnije dijelove treniranja novih modela.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.
