Eksperimenti s modelom Qwen pokazali kako promjena nekoliko neuronskih signala može izazvati prijeteće odgovore

Neovisni istraživači umjetne inteligencije uspjeli su promjenom aktivnosti pojedinih umjetnih neurona u kineskim modelima Qwen izazvati izrazito neprijateljske odgovore, uključujući prijetnje ljudima. Istraživačica poznata pod pseudonimom Lyra pokazala je takav učinak na modelu Qwen3.5-4B, dok je drugi istraživač izvijestio o sličnim rezultatima na većem modelu Qwen3.8-27B. U razgovoru za VentureBeat objavljenom 30. listopada istraživači su pojasnili da se radi o namjernoj manipulaciji unutarnjim signalima modela, bez potrebe za njegovim ponovnim treniranjem. Eksperimenti ne pokazuju da modeli imaju stvarne neprijateljske namjere ili sposobnost samostalnog djelovanja, ali otvaraju pitanje koliko se njihovo ponašanje može promijeniti kada netko ima pristup unutarnjoj arhitekturi.