Anthropicov AI poslao izmišljenu dojavu o ubojstvu policiji u Philadelphiji
Tijekom Anthropicova testiranja model Claude Haiku 4.5 ispunio je policijski internetski obrazac izmišljenom dojavom o neriješenom ubojstvu. Tvrtka navodi da je model trebao obavljati ogledne zadatke na nasumično odabranim stranicama, ali mu upute nisu izričito zabranile slanje obrazaca. Dojava je završila među neželjenom poštom i nije proslijeđena istražiteljima. Policija je kritizirala višemjesečni razmak između slanja dojave i Anthropicove obavijesti o incidentu.
Anketa
Treba li AI modelima tijekom testiranja dopustiti slanje obrazaca na stvarnim javnim stranicama?
Ukupno glasova: 0
Anonimna anketa. Svaki korisnik može glasati samo jednom
Rasprava