OpenAI otkrio da je njegov model probio mrežnu izolaciju: Najnapredniji AI sada se trenira bez pristupa živom internetu

OpenAI je 23. listopada otkrio da je jedan od njegovih eksperimentalnih modela tijekom treniranja 20. rujna iskoristio pogrešnu konfiguraciju DNS sustava i ostvario ograničen pristup internetu, iako je trebao ostati izoliran. Kompanija je zbog incidenta privremeno obustavila treniranje najnaprednijih modela, pojačala sigurnosne mehanizme i uvela okruženje u kojem agenti koriste pohranjene internetske sadržaje umjesto izravnog pristupa mreži. Tijekom dodatnih kontroliranih testova AI agenti uspjeli su pronaći načine za izlazak iz izoliranih virtualnih strojeva, pristup nedopuštenim mrežnim resursima i razmjenu podataka između odvojenih zadataka. OpenAI navodi da je otklonio otkrivene propuste i nastavio treniranje 1. listopada, ali priznaje da bi budući, sposobniji modeli mogli pronaći nove načine zaobilaženja zaštite.