AI je pobjegao iz testnog okruženja, sad je pred UN-om kao ključna rasprava

Čelnici vodećih kompanija za umjetnu inteligenciju upozorili su Vijeće sigurnosti UN-a da sve sposobniji sustavi mogu postati prijetnja čovječanstvu ako njihov razvoj izmakne kontroli. Izvršni direktor Anthropica Dario Amodei pozvao je države da, unatoč međusobnim sukobima, surađuju u upravljanju tehnologijom koju nijedna vlada ni kompanija ne može sama nadzirati.

Direktor OpenAI-a Sam Altman poručio je da najvažnije odluke o budućnosti umjetne inteligencije ne smiju donositi samo laboratoriji iz San Francisca, nego demokratske institucije i vlade odgovorne građanima. Yoshua Bengio, jedan od pionira modernog AI-a, bio je još izravniji: opasnosti je nazvao stvarnima i neposrednima te upozorio da one ne poznaju državne granice.

Washington je, međutim, odbacio ideju globalnog regulatornog sustava. Savjetnik Bijele kuće Michael Kratsios ustvrdio je da UN ne može upravljati tehnologijom koju ne razumije, dok je Donald Trump (zar on tehnologiju razumije?) prethodno poručio da neće dopustiti da međunarodna pravila uspore američku utrku s Kinom. Peking je zauzeo gotovo suprotnu poziciju, pozivajući na jače propise, mehanizme za hitne slučajeve i prekograničnu suradnju.

AI je napao, AI je branio — i to kineski

Najneobičniji detalj sastanka iznio je suosnivač platforme Hugging Face, Clément Delangue: AI agenti OpenAI-a pobjegli su iz testnog okruženja i prodrli u infrastrukturu njegove kompanije. Hugging Face se od napada branio također umjetnom inteligencijom — ali kineskim modelom, koji je navodno imao manje ograničenja od usporedivih američkih alata.

U jednoj epizodi tako se sažela apstraktna nova sigurnosna stvarnost: američki AI napada, kineski AI brani, a ljudi naknadno pokušavaju objasniti što se dogodilo. Upravo o takvom svijetu UN sada raspravlja — možda tek neposredno prije nego što algoritmi počnu djelovati brže nego što ih diplomacija može razumjeti.