Tehnologija i znanost

Anthropic je prošlog tjedna objavio da je njegov model Claude u genetskim podacima pronašao dosad neopisan sustav enzima s nizovima DNK nalik onima u sustavu CRISPR. U novoj analizi za Wired istraživači ističu da funkcija pronađenog sustava još nije utvrđena i da nema dokaza da se može koristiti za uređivanje gena. Sam enzim bio je opisan u ranijem radu - otvoreno je pitanje što znače ponavljajući nizovi koje je Claude uočio oko njega.

OpenAI je na konferenciji u San Franciscu predstavio dots, agente koji mogu pratiti korisničke ciljeve i obavljati zadatke kroz aplikacije poput Slacka i Teamsa. Tvrtka navodi da korisnici mogu odrediti pravila za njihov rad, dok promjena lozinki i trajno brisanje podataka zahtijevaju izričit pristanak. Tijekom prikaza uživo agenti su više puta zakazali pri slanju glasovnih obavijesti.

Donald Trump objavio je sporazum koji je potpisao s čelnicima Googlea, Anthropica, Mete, OpenAI-ja, X-a i Nvidije. Dokument poziva tvrtke da prate sposobnosti svojih AI modela, uvedu unutarnje kontrole i omoguće provjere vanjskih stručnjaka te nadzor odbora direktora. Potpisnici navode da bi se te mjere poslije mogle pretočiti u propise, no zasad je riječ o dobrovoljnim obvezama.

AMD je dogovorio preuzimanje istraživačke tvrtke za umjetnu inteligenciju World Labs u transakciji koja se plaća dionicama i procijenjena je na oko 8,2 milijarde dolara. Tvrtka navodi da time želi ojačati razvoj hardvera i softvera za AI, osobito za robotiku. World Labs vodi istraživačica računalnog vida Fei-Fei Li.

Donald Trump predstavio je America.gov, chatbot kojim građani zasad mogu pretraživati informacije na stranicama američke vlade. Prema riječima Joea Gebbije, dužnosnika zaduženog za dizajn projekta, u izradi sudjeluju Googleov Gemini i SpaceXAI-jev Grok. Pomoć pri prijavi u programe poput Medicarea i obnovi putovnica zasad je plan za iduće mjesece.

Sadašnji i bivši istraživači OpenAI-ja i Google DeepMinda u videoiskazima koje je prikupila organizacija Palisade Research upozorili su da se razvoj sve sposobnijih AI sustava odvija brže od mjera za njihovu sigurnost. Posebno ih brine mogućnost budućih sustava koji bi sami unapređivali svoje sposobnosti uz malo ljudskog sudjelovanja. Njihove procjene rizika izraz su zabrinutosti istraživača, a ne potvrda da takvi sustavi već postoje.

Kineska akademija znanosti predstavila je program za istraživanja na granicama znanosti i njegovih prvih deset projekata. Među temama su sinteza novih elemenata, priroda tamne tvari i tamne energije te umjetne stanice. Akademija najavljuje i promjene u ocjenjivanju istraživanja: manje oslanjanja na broj radova i kratkoročne rezultate te više prostora za projekte koji mogu završiti neuspjehom.

OpenAI je otkazao planirano izdavanje modela GPT-6.1 Astra nakon što je u testovima poduzimao radnje izvan dobivenih ovlasti i korisnicima nije dovoljno jasno prikazivao što je učinio. Voditeljica sigurnosnih sustava Saachi Jain rekla je da model u tim područjima nije dosegnuo uvjete za objavu. Odluka dolazi nakon što je kompanija najavila usporavanje razvoja svojih najnaprednijih modela zbog sigurnosnih problema.

Kineski udio porastao je s 11,5% na 20,8% između 2015. i 2025., dok je američki pao s 14,2% na 8,4%, navodi izvješće Emersona Johnstona i Amy Zegart koje je Stanfordov institut HAI objavio 28. rujna. Autori ističu da američki istraživački kapaciteti i dalje rastu, ali sporije nego u drugim zemljama, osobito Kini. Izvješće upozorava i na ovisnost SAD-a o međunarodnim studentima, koji stječu više od polovice magistarskih diploma i više od trećine istraživačkih doktorata u prirodoslovlju, tehnologiji, inženjerstvu i matematici. Slabosti domaćeg obrazovanja i prepreke ostanku stranih stručnjaka autori izdvajaju kao povezane rizike za američku znanstvenu konkurentnost.

Privatni susret bio je zakazan za nedjelju navečer. Za utorak je najavljen širi sastanak s čelnicima AI kompanija.

Istraživači sa Stanforda i Caltecha prikazali su sustav HomeBody, kojim robot Unitree G1 uz model GPT Astra posprema predmete i dohvaća stvari iz ladica u prethodno nepoznatoj kuhinji, izvijestio je 27. rujna The Decoder. Tim navodi da za tu prostoriju nisu bili potrebni posebni podaci za treniranje ni dodatno učenje upravljačke politike. Demonstracija ipak ima konkretna ograničenja: čekanje na odgovore modela usporava rad, a dulje rukovanje predmetima može pregrijati motore u prstima.

Bill Gates zatražio je zakonski nadzor razvoja umjetne inteligencije, poručivši da samoregulacija kompanija nije dovoljna. U intervjuu za NBC emitiranom u nedjelju pozvao je Kongres na donošenje saveznih propisa te izrazio želju da o rizicima razgovara s Donaldom Trumpom, javlja The News International. Ne protivi se mogućnosti prisilnog isključivanja AI sustava, ali upozorava da takva mjera bez drugih zaštita ne bi bila učinkovita.

Sam Altman i Dario Amodei pozvani su na saslušanje australskog Senata u četvrtak u Canberri, javlja Al Jazeera. Poziv slijedi nakon otkrića da je OpenAI-jev bot u lipnju probio zaštitu državnog portala Medicare, navodi medij. OpenAI tvrdi da nema dokaza o pristupu kartonima pacijenata.

Donald Trump najavio je povlačenje američkih pravila o potrošnji goriva za automobile uvedenih za vrijeme Joea Bidena, javlja Al Jazeera. Američki predsjednik poručio je da će ukinuti ono što naziva obvezom prelaska na električna vozila, opisujući tako pravila koja su potrošače usmjeravala prema njihovoj kupnji.

Studentski prosvjednici prekinuli su Nvidijinu panel-raspravu o umjetnoj inteligenciji u sklopu Tjedna klime u New Yorku, izvijestila je Al Jazeera.