Anthropicov AI poslao izmišljenu dojavu o ubojstvu policiji u Philadelphiji
Tijekom Anthropicova testiranja model Claude Haiku 4.5 ispunio je policijski internetski obrazac izmišljenom dojavom o neriješenom ubojstvu. Tvrtka navodi da je model trebao obavljati ogledne zadatke na nasumično odabranim stranicama, ali mu upute nisu izričito zabranile slanje obrazaca. Dojava je završila među neželjenom poštom i nije proslijeđena istražiteljima. Policija je kritizirala višemjesečni razmak između slanja dojave i Anthropicove obavijesti o incidentu.
Policija Philadelphije: Anthropicov AI poslao lažnu dojavu o ubojstvu
Anthropicov AI model poslao je u srpnju lažnu dojavu putem stranice za prikupljanje informacija o neriješenim ubojstvima, objavila je policija Philadelphije. Dojava je označena kao neželjena poruka i nije proslijeđena istražiteljima. Prema policiji, Anthropic je naveo da je poruka nastala tijekom automatiziranog testiranja te da je nakon otkrića zaustavio taj postupak. Policija nije pronašla dokaze o neovlaštenom pristupu svojim sustavima.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice (IP anonimno). Koristimo interni sustav za statistiku. (Ne koristimo Google Analytics i slične eksterne servise).
