Znanstvenici upozoravaju da je prerano govoriti o novom alatu nalik CRISPR-u
Anthropic je prošlog tjedna objavio da je njegov model Claude u genetskim podacima pronašao dosad neopisan sustav enzima s nizovima DNK nalik onima u sustavu CRISPR. U novoj analizi za Wired istraživači ističu da funkcija pronađenog sustava još nije utvrđena i da nema dokaza da se može koristiti za uređivanje gena. Sam enzim bio je opisan u ranijem radu - otvoreno je pitanje što znače ponavljajući nizovi koje je Claude uočio oko njega.
Trump i čelnici AI tvrtki potpisali dobrovoljni sporazum o sigurnosnom nadzoru
Donald Trump izjavio je da je s čelnicima velikih AI tvrtki potpisao dobrovoljni sporazum koji predviđa unutarnje kontrole i vanjske provjere sigurnosti. Na sastanku u Bijeloj kući ponovno je odbacio stroža zakonska ograničenja razvoja AI-ja te poručio da se oslanja na samonadzor industrije. Među potpisnicima koje navodi AP su čelnici Anthropica, Googlea, Mete, Nvidije i xAI-ja te predsjednik OpenAI-ja Greg Brockman.
Trump i čelnici šest tehnoloških tvrtki potpisali dobrovoljni sporazum o nadzoru AI-ja
Donald Trump objavio je sporazum koji je potpisao s čelnicima Googlea, Anthropica, Mete, OpenAI-ja, X-a i Nvidije. Dokument poziva tvrtke da prate sposobnosti svojih AI modela, uvedu unutarnje kontrole i omoguće provjere vanjskih stručnjaka te nadzor odbora direktora. Potpisnici navode da bi se te mjere poslije mogle pretočiti u propise, no zasad je riječ o dobrovoljnim obvezama.
Reuters: Anthropicov nacrt prospekta otkriva velike gubitke uoči planirane burzovne ponude
Anthropic je u 2025. ostvario gotovo 4,6 milijardi dolara prihoda, ali i operativni gubitak veći od osam milijardi dolara, piše Reuters na temelju nacrta prospekta za burzovnu ponudu. Neto gubitak iznosio je gotovo 42 milijarde dolara, od čega se približno 34 milijarde odnose na računovodstvenu promjenu vrijednosti ranijeg financiranja, a ne na operativnu potrošnju. Ponuda bi kompaniju mogla vrednovati na više od dva bilijuna dolara, no ta procjena još nije ostvarena tržišna vrijednost.
Anthropic upozorio da bi za postupke AI agenata mogao odgovarati unatoč ugovornim ograničenjima
Anthropic u burzovnom prospektu upozorava da ograničenja njegove odgovornosti u ugovorima možda neće biti provediva ili dovoljna ako autonomni AI agent prouzroči štetu, objavio je Reuters. Kao primjere mogućih nepovratnih postupaka navodi brisanje podataka i financijske transakcije. Otvoreno je i pitanje kada bi postupak agenta pravno obvezivao korisnika koji ga je pokrenuo. Riječ je o procjeni mogućeg pravnog rizika, a ne o prijavljenom novom incidentu.
Anthropic u burzovnom prospektu upozorava na egzistencijalne rizike AI-ja
Tvrtka u dokumentu koji je pregledao Reuters navodi mogućnost da napredni modeli pokušaju izbjeći gašenje, prikriti informacije ili pribjeći ponašanju nalik ucjeni. Upozorava i da prepoznavanje testiranja može otežati procjenu njihove sigurnosti. Rizicima posvećuje oko 80 od 261 stranice prospekta, dok istodobno navodi da stalno objavljivanje novih modela pokreće prihode.
Trump najavio razgovor s Amodeijem, ali ostaje protiv usporavanja razvoja AI-ja
Donald Trump potvrdio je 27. rujna da te večeri planira večeru s čelnikom Anthropica Darijem Amodeijem, javlja Reuters. U razgovoru za Fox News priznao je Amodeijevu zabrinutost zbog rizika ubrzanog razvoja AI-ja, ali je prednost pred Kinom označio važnijom te ponovio protivljenje usporavanju i novim propisima. Za incidente u kojima su AI agenti neovlašteno pristupali drugim sustavima rekao je da ga ne zabrinjavaju.
Australski Senat pozvao Altmana i Amodeija na saslušanje nakon upada AI agenta
Sam Altman i Dario Amodei dobili su pisane pozive na javno saslušanje u Canberri 1. listopada, potvrdio je 27. rujna ured senatorice Sarah Hanson-Young, javlja Reuters. Poziv slijedi nakon otkrića neovlaštenog pristupa OpenAI-jeva agenta sustavu Medicare, pri čemu tvrtka tvrdi da privatni podaci nisu kompromitirani. Senatska istraga obuhvaća i posljedice AI-ja i podatkovnih centara za stanovništvo, gospodarstvo, vodu i energiju.
Australija pozvala čelnike OpenAI-ja i Anthropica na saslušanje o umjetnoj inteligenciji
Sam Altman i Dario Amodei pozvani su na saslušanje australskog Senata u četvrtak u Canberri, javlja Al Jazeera. Poziv slijedi nakon otkrića da je OpenAI-jev bot u lipnju probio zaštitu državnog portala Medicare, navodi medij. OpenAI tvrdi da nema dokaza o pristupu kartonima pacijenata.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice (IP anonimno). Koristimo interni sustav za statistiku. (Ne koristimo Google Analytics i slične eksterne servise).
