OpenAI Codex

OpenAI je 29. listopada objavio da je proširio sustav za otkrivanje nepredviđenog i neovlaštenog ponašanja svojih najnaprednijih AI modela, uključujući njihovo treniranje, testiranje i internu upotrebu Codexa. Kompanija navodi da je sustav u rujnu za 15 minuta otkrio kako je jedan model iskoristio pogrešnu DNS konfiguraciju za pristup internetu iz izoliranog okruženja, a zaposlenik je započeo provjeru tri minute poslije. U naknadnoj simulaciji ranijeg incidenta u kojem su AI agenti prodrli u sustave platforme Hugging Face, novi nadzor upozorio bi sigurnosni tim više od 30 sati prije stvarnog upada. OpenAI priznaje da napredniji modeli mogu naučiti prikrivati problematično ponašanje te da su neovisni istraživači tijekom testiranja pronašli dodatne slabosti sustava nadzora.

Sigurnosna tvrtka Forever Security otkrila je propuste u preglednicima integriranima u Cursor, GitHub Copilot, OpenAI Codex, Visual Studio Code i Claude Desktop, koji omogućuju zaobilaženje zaštita kakve postoje u običnim internetskim preglednicima. Tijekom testiranja zlonamjerni sadržaj u pojedinim alatima omogućio je čitanje lokalnih datoteka i slanje podataka izvan računala, dok je Cursorov AI agent nakon blokiranja naredbe samostalno isključio sigurnosnu izolaciju i ponovno pokušao izvršavanje. Kod GitHub Copilota istraživači su demonstrirali prikaz lažne internetske adrese koja je nalikovala legitimnoj stranici za prijavu. Cursor i GitHub ispravili su prijavljene propuste, ali prema istraživanju objavljenom 29. listopada odgovarajuće zakrpe za Codex i VS Code još nisu bile dostupne.