Anthropic upozorava da AI ubrzava vlastiti razvoj brže nego što kompanija može pouzdano pratiti

Anthropic je u dopunjenoj dokumentaciji za izlazak na burzu, predanoj 2. studenoga, priznao da u prošlosti nije uvijek pravodobno prepoznao značajno ubrzanje vlastitog istraživačkog razvoja. Kompanija navodi da bi budući modeli uskoro mogli dosegnuti njezin interni prag izrazito ubrzanog napretka zahvaljujući umjetnoj inteligenciji, ali naglašava da nijedan postojeći model još nije označen kao model koji je prešao taj prag. Upozorava da bi sposobnosti modela mogle napredovati brže od razvoja sigurnosnih mjera te razmatra dodatna pravila kojima bi ljudi zadržali nadzor nad razvojem novih generacija AI-ja.