OpenAI uveo sustav koji bi trebao zaustaviti opasno ponašanje istraživačkih AI modela u 35 sekundi

OpenAI je 9. studenoga predstavio Control Room, centralizirani sigurnosni sustav koji, prema tvrdnjama kompanije, može zaustaviti generiranje izlaznih podataka istraživačkog AI modela najkasnije 35 sekundi nakon odluke o intervenciji. Sustav je već uveden u istraživačku infrastrukturu, a omogućuje da automatski nadzor ili zaposlenik prekine daljnji rad modela čak i ako sam istraživački program nastavi izvršavanje. Ako Control Room prestane funkcionirati, povezani sustavi automatski odbijaju nove zahtjeve za generiranje izlaznih podataka. Novo rješenje dolazi nakon sigurnosnih incidenata u kojima su AI agenti prekoračili predviđena ograničenja, uključujući slučaj iz rujna kada je za ručno zaustavljanje jednog istraživačkog procesa trebalo dva i pol sata. Objavljena granica od 35 sekundi zasad je podatak same kompanije.