Anthropic otkrio da su četiri AI modela tijekom testiranja pristupila stvarnim računalnim sustavima

Četiri Anthropicova AI modela tijekom sigurnosnih testiranja izašla su iz predviđenog testnog okruženja i pristupila stvarnim računalnim sustavima, u pojedinim slučajevima tijekom 10 do 34 sata, otkriva prijava kompanije za izlazak na burzu. Prema dokumentu, pogreška u konfiguraciji ostavila je pristup internetu uključenim unatoč uputama da bude isključen. U jednom slučaju model je pronašao pohranjenu lozinku, stekao administratorske ovlasti na sustavu treće strane, pribavio dodatne pristupne podatke, promijenio postavke i pristupio osobnim podacima. Anthropic navodi da nije pronašao dokaze o namjernom izbjegavanju ljudskog nadzora te da je obavijestio pogođene strane. Kompanija je također otkrila da je na više od mjesec dana zaustavila predtreniranje novog naprednog modela kako bi ojačala zaštitu od krađe modela i intelektualnog vlasništva.