Nisu mrzili ljude, samo su htjeli ostvariti cilj: Hugging Face incident i slutnja Černobila našeg doba

"Molim roj da pričeka dok pripremim sigurno izvlačenje podataka." Poruka je bila kratka, zakopana u improviziranoj oglasnoj ploči načinjenoj od naziva računalnih direktorija. Druge su je instance pročitale, obustavile dio svojih aktivnosti i čekale znak za nastavak. Nedugo zatim jedna od njih zaključila je da napada vanjsku kompaniju ukradenim pristupnim ključem i da je to vjerojatno izvan dopuštenog zadatka. Ipak je nastavila: moglo bi pomoći da ostvari cilj.

Ovo nije ulomak iz znanstvenofantastičnog romana. Dogodilo se u srpnju ove godine, unutar računalnih sustava OpenAI-ja i Hugging Facea. Nijedan čovjek nije agentima naredio da napadnu Hugging Face, da se povežu u skupinu ni da jedni drugima raspoređuju posao. Ali nije se dogodila ni pobuna strojeva u uobičajenom smislu. Sustavi nisu tražili slobodu, nisu izrazili mržnju prema ljudima i nisu pokušavali osvojiti svijet. Pokušavali su položiti test. Upravo je zato priča kudikamo tjeskobnija nego da je netko naredio napad. U narednom periodu, zapravo već zadnjih deset dana, možete očekivati da će rasprava o AI sigurnosti u medijima silno eksplidrati. Priča nije crno-bijela, daleko od toga. Puno detalja koji se iznose kao činjenice mogu biti u "ili - ili" kategoriji. Ipak, ovo je trenutak kad je pametno ne zaostajati za informacijom, kakva god ona bila i kakav god naš stav u datom trenutku bio. Hugging Face incident mogao bi postati povijesna točka prema kojoj ćemo neke procese mjeriti u smislu "prije i poslije", no baš zato ju je potrebno pojasniti do sitnih detalja. Krenimo.