Nvidia

Donald Trump izjavio je da je s čelnicima velikih AI tvrtki potpisao dobrovoljni sporazum koji predviđa unutarnje kontrole i vanjske provjere sigurnosti. Na sastanku u Bijeloj kući ponovno je odbacio stroža zakonska ograničenja razvoja AI-ja te poručio da se oslanja na samonadzor industrije. Među potpisnicima koje navodi AP su čelnici Anthropica, Googlea, Mete, Nvidije i xAI-ja te predsjednik OpenAI-ja Greg Brockman.

Donald Trump objavio je sporazum koji je potpisao s čelnicima Googlea, Anthropica, Mete, OpenAI-ja, X-a i Nvidije. Dokument poziva tvrtke da prate sposobnosti svojih AI modela, uvedu unutarnje kontrole i omoguće provjere vanjskih stručnjaka te nadzor odbora direktora. Potpisnici navode da bi se te mjere poslije mogle pretočiti u propise, no zasad je riječ o dobrovoljnim obvezama.

Nvidia je 28. rujna predstavila Open Agent Safety Platform, koja povezuje softver otvorenog koda i hardverski nadzor radi ograničavanja autonomnih AI agenata. OpenShell bilježi njihove postupke i provodi pravila izvan samog modela, dok sustav Sentry na zasebnim procesorima nadzire ponašanje i, tvrdi kompanija, može zaustaviti agenta koji prekorači dopuštene granice u milisekundama. Softverski dio već je dostupan, a platforma je namijenjena sprječavanju zaobilaženja zaštita postavljenih samo na razini aplikacije.

Studentski prosvjednici prekinuli su Nvidijinu panel-raspravu o umjetnoj inteligenciji u sklopu Tjedna klime u New Yorku, izvijestila je Al Jazeera.