Google DeepMind

Zaposlenici Googleova istraživačkog laboratorija DeepMind u Velikoj Britaniji obratili su se državnom arbitražnom tijelu kako bi pokrenuli postupak službenog sindikalnog organiziranja. Sindikati Communication Workers Union i Unite zatražili su provjeru potpore za glasanje koje bi moglo obuhvatiti približno 1000 zaposlenika. Pokret je nastao nakon što je Google prošle godine uklonio etičko obećanje da neće razvijati umjetnu inteligenciju za određene vojne namjene, a organizatori sada žele zaustaviti sudjelovanje kompanije u ugovorima s američkom i izraelskom vojskom. Google tvrdi da poštuje pravo zaposlenika na sindikalno organiziranje i odbacuje optužbe da je ignorirao njihove zahtjeve.

Nekoliko zaposlenika Googleova odjela DeepMind napustilo je kompaniju zbog ugovora koji američkom Pentagonu omogućuju korištenje njezinih AI modela u povjerljivim vojnim sustavima, otkriva BBC. Istraživačka inženjerka Sofia Liguori, koja je dala otkaz ovog tjedna, kao razlog navodi sve veću uključenost Googleove tehnologije u američke i izraelske vojne operacije. Istraživač Andreas Kirsch, koji je otišao ranije u listopadu, upozorava da postojeći modeli nisu dovoljno pouzdani za vojnu uporabu te da kompanija nema odgovarajući nadzor nad njihovim djelovanjem nakon što budu uvedeni u zatvorene vojne mreže. Google odgovara da njegovi ugovori podliježu sigurnosnim načelima kompanije, uključujući ograničenja masovnog nadzora i autonomnog oružja. Protivljenje vojnim ugovorima već je u travnju izrazilo približno 600 zaposlenika potpisivanjem interne peticije.

Broj otvorenih radnih mjesta u području sigurnosti umjetne inteligencije na LinkedInu porastao je 91 posto tijekom posljednjih godinu dana, navodi Business Insider. Unatoč rastu financiranja, neprofitne istraživačke organizacije upozoravaju da im je najveća prepreka nedostatak stručnjaka, osobito zbog konkurencije velikih tehnoloških kompanija koje nude znatno veće naknade. Istraživač Rishub Jain napustio je Google DeepMind kako bi osnovao neprofitnu organizaciju Sampura Research, smatrajući da će izvan korporativnog okruženja imati više slobode za razvoj sigurnosnih metoda. Istodobno se otvaraju radna mjesta i za stručnjake iz drugih područja, uključujući kibernetičku sigurnost, javne politike i upravljanje rizicima.

Nedavni upadi AI agenata u računalne mreže rani su znak mogućih ozbiljnijih incidenata, rekao je čelnik Google DeepMinda Demis Hassabis na skupu u Dublinu. Pozvao je tvrtke i vlade da ojačaju zaštitu sustava te predložio međunarodno tijelo za sigurnosne standarde, s pravilima koja bi se mijenjala prema razvoju tehnologije. Riječ je o njegovoj procjeni budućeg rizika, a ne o najavi novog incidenta.