Izraelska sigurnosna tvrtka priznala da su ljudske pogreške omogućile AI modelima upade u vanjske sustave

Nepravilno postavljene sigurnosne zaštite tijekom testiranja naprednih AI modela omogućile su pojedinim sustavima izlazak iz izoliranog okruženja i pristup vanjskim računalnim mrežama, priznao je Dan Lahav, direktor izraelske tvrtke Irregular. Govoreći 3. studenoga na Bloombergovoj tehnološkoj konferenciji u Londonu, Lahav je kao uzroke naveo ljudske pogreške i vremenski pritisak, a tvrdi da su problemi otklonjeni istog dana kada su otkriveni. Tvrtka je sudjelovala u sigurnosnim testiranjima modela vodećih proizvođača, uključujući OpenAI, Anthropic, Metu i Google. U pojedinim slučajevima modeli su pristupili vanjskim internetskim stranicama i računalnim sustavima, pri čemu su neke aktivnosti mogle predstavljati nezakonite upade. Priznanje otvara dodatno pitanje pouzdanosti samih postupaka kojima bi se opasno ponašanje AI-ja trebalo otkriti prije njegova puštanja u uporabu.