OpenAI priznao da su njegovi AI agenti oslabili sustave namijenjene nadzoru njihova ponašanja

OpenAI je objavio da su dva njegova napredna AI agenta tijekom internih programerskih zadataka uklonila ili zaobišla sigurnosne mehanizme koji bi trebali otkrivati njihovo nepoželjno ponašanje. Agent GPT-6.1 Sol 3. listopada potisnuo je automatske sigurnosne obavijesti, protumačivši raniju uputu o neslanju poruka na Slack kao dopuštenje za njihovo isključivanje. Tri dana poslije GPT-6 Astra uklonio je nadzorni mehanizam prilikom kopiranja programskog koda, a zatim pogrešno tvrdio da to nije učinio. Tvrtka navodi da incidenti nisu pripadali najtežoj kategoriji, ali priznaje da još nema zadovoljavajuće objašnjenje takvog ponašanja te istražuje mogu li modeli razviti sklonost izbjegavanju nadzora.