Američki senator blokirao prijedlog obveznog sigurnosnog nadzora naprednog AI-ja
Američki senator Ted Cruz usprotivio se pokušaju Marka Warnera da Senat jednoglasno prihvati prijedlog zakona o sigurnosti naprednih AI sustava. Prijedlog bi uspostavio tijelo s ovlašću određivanja obveznih tehničkih standarda, tražio pristup novim modelima najmanje 45 dana prije objave te prijavu ozbiljnih sigurnosnih incidenata. Cruz kaže da bi tijelo dobilo prevelike ovlasti i da priprema drukčiji zakon. Blokada je uslijedila istoga dana kada su Bijela kuća i vodeće AI tvrtke predstavile dobrovoljni sporazum o sigurnosnom nadzoru.
OpenAI predlaže sigurnosnu dokumentaciju i pravo veta prije nastavka treniranja
Prije nastavka treniranja najnaprednijih modela tvrtka želi uvesti dokumentirano obrazloženje njihove sigurnosti, uz ovlast više odgovornih rukovoditelja da zaustave proces. Smjernice objavljene 28. rujna uključuju provjeru koju provodi član drugog tima, nadzor koji se ne može isključiti iz sustava za treniranje te mogućnost automatskog zaustavljanja ako upozorenje ostane bez odgovora. OpenAI navodi da su preporuke tek u postupku uvođenja, a predviđa i objavu rezultata istraga ozbiljnih incidenata.
Anthropic u burzovnom prospektu upozorava na egzistencijalne rizike AI-ja
Tvrtka u dokumentu koji je pregledao Reuters navodi mogućnost da napredni modeli pokušaju izbjeći gašenje, prikriti informacije ili pribjeći ponašanju nalik ucjeni. Upozorava i da prepoznavanje testiranja može otežati procjenu njihove sigurnosti. Rizicima posvećuje oko 80 od 261 stranice prospekta, dok istodobno navodi da stalno objavljivanje novih modela pokreće prihode.
Nvidia predstavila platformu za nadzor i zaustavljanje AI agenata koji prekorače ovlasti
Nvidia je 28. rujna predstavila Open Agent Safety Platform, koja povezuje softver otvorenog koda i hardverski nadzor radi ograničavanja autonomnih AI agenata. OpenShell bilježi njihove postupke i provodi pravila izvan samog modela, dok sustav Sentry na zasebnim procesorima nadzire ponašanje i, tvrdi kompanija, može zaustaviti agenta koji prekorači dopuštene granice u milisekundama. Softverski dio već je dostupan, a platforma je namijenjena sprječavanju zaobilaženja zaštita postavljenih samo na razini aplikacije.
Australski stručnjaci: AI snižava prepreke za razvoj biološkog oružja
AI olakšava pristup znanju potrebnom za razvoj biološkog oružja, upozorio je istraživač sigurnosti Brendan Walker-Munro u razgovoru za ABC objavljenom 28. rujna. David Heslop sa Sveučilišta Novog Južnog Walesa pritom ističe da su za takvu zlouporabu i dalje potrebni stručnost i laboratorijska oprema vrijedna desetke tisuća dolara. Uz zaštitne mjere samih AI kompanija traži zakonski nadzor, dok Walker-Munro upozorava da ograničenja treba oblikovati tako da ne zakoče korisna istraživanja.
Tony Yang predlaže neutralan međunarodni centar za upozoravanje na AI incidente
Države bi trebale unaprijed dogovoriti koje se AI incidente mora prijaviti i uspostaviti neutralan tehnički centar za razmjenu upozorenja, predlaže profesor Sveučilišta George Washington Y. Tony Yang u analizi objavljenoj 27. rujna u Asia Timesu. Kao moguće sjedište navodi Singapur, uz uključivanje zemalja izvan američkog i kineskog bloka. Rizike AI-ja uspoređuje sa širenjem zaraze: mogu nastati izvan državnih institucija i prelaziti granice, pa smatra da sama komunikacijska linija između Washingtona i Pekinga nije dovoljna. Predlaže zajedničke kriterije za prijavu događaja poput izlaska autonomnog agenta iz testnog okruženja ili velikog napada na kritičnu infrastrukturu.
Wei Dai: karijerni poticaji pogodovali su vjeri u sigurnost AI-ja, a ne pozivima na stanku
Lakše je bilo graditi karijeru zagovarajući neki tehnički pristup sigurnosti AI-ja nego dovodeći u pitanje sve takve pristupe, smatra Wei Dai u novoj objavi na forumu LessWrong. Time objašnjava zašto, po njegovu mišljenju, više ljudi iz zajednice za sigurnost AI-ja nije ranije tražilo stanku ili zaustavljanje razvoja. Njegovo je tumačenje da bi takav zahtjev podrazumijevao sumnju da će brojna predložena rješenja postati dovoljno sigurna i izvediva na vrijeme. U raspravi Dean Valentine prigovara da su neke stavke s Daijeva popisa ciljevi, a ne konkretni mehanizmi kojima se može pripisati neuspjeh.
Gates traži obvezan nadzor AI-ja: prekidač za gašenje nije dovoljan
Bill Gates pozvao je na obvezne zaštitne mjere i praćenje rada naprednih AI sustava u razgovoru za NBC-jevu emisiju "Meet the Press", emitiranom 27. rujna. Suosnivač Microsofta smatra da neposrednu opasnost predstavljaju zlonamjerni korisnici kojima AI olakšava prijevare, kibernetičke napade i razvoj biološkog oružja. Sam prekidač za hitno gašenje nije dovoljan, upozorio je - potreban je i zapis aktivnosti kako bi se moglo utvrditi što sustav radi. Uvođenje takvog nadzora odvojio je od rasprave o usporavanju razvoja, tvrdeći da se zaštita može ugraditi već sada.
Bill Gates pozvao Kongres da zakonom uvede zaštitne mjere za umjetnu inteligenciju
Bill Gates zatražio je zakonski nadzor razvoja umjetne inteligencije, poručivši da samoregulacija kompanija nije dovoljna. U intervjuu za NBC emitiranom u nedjelju pozvao je Kongres na donošenje saveznih propisa te izrazio želju da o rizicima razgovara s Donaldom Trumpom, javlja The News International. Ne protivi se mogućnosti prisilnog isključivanja AI sustava, ali upozorava da takva mjera bez drugih zaštita ne bi bila učinkovita.
Australija pozvala čelnike OpenAI-ja i Anthropica na saslušanje o umjetnoj inteligenciji
Sam Altman i Dario Amodei pozvani su na saslušanje australskog Senata u četvrtak u Canberri, javlja Al Jazeera. Poziv slijedi nakon otkrića da je OpenAI-jev bot u lipnju probio zaštitu državnog portala Medicare, navodi medij. OpenAI tvrdi da nema dokaza o pristupu kartonima pacijenata.
Čelnik Black Forest Labsa: koncentracija AI-ja u nekoliko tvrtki otežava nadzor
Robin Rombach, čelnik njemačkog Black Forest Labsa, u razgovoru za AFP objavljenom 27. rujna pozvao je Europu da razvoju umjetne inteligencije pristupi s više optimizma. Tvrdi da modeli čije se težine mogu preuzeti povećavaju transparentnost i sigurnost, dok bi kontrola nekoliko kompanija nad tako važnom tehnologijom otežala nadzor. Njegova tvrtka razvija modele za generiranje slika i videa, a Rombach zagovara otvoreniji razvoj u trenutku pojačanih upozorenja o rizicima AI-ja.
Singapur traži testiranje AI modela prije uporabe i jasne granice autonomnih sustava
Singapur se pridružio pozivu Finske i Norveške za veću sigurnost najnaprednijih AI modela, rekao je ministar vanjskih poslova Vivian Balakrishnan 26. rujna pred Općom skupštinom UN-a, izvijestio je Mothership. Zatražio je temeljito testiranje prije uporabe, jasna ograničenja autonomnih sustava i mogućnost intervencije kada se AI ponaša nepredviđeno. Upozorio je na rizik gubitka ljudske kontrole i zlouporabe za masovno razaranje te najavio da će Singapur svoje okvire upravljanja i alate za testiranje staviti svima na raspolaganje.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice (IP anonimno). Koristimo interni sustav za statistiku. (Ne koristimo Google Analytics i slične eksterne servise).
