Upozorenje iz AI zajednice: modeli bi mogli zaključivati skriveno, izvan dosega sustava za nadzor
Autor pod imenom Skye upozorio je 24. listopada na istraživačkom forumu LessWrong da određene arhitekture umjetne inteligencije mogu otežati nadzor nad načinom na koji modeli donose odluke. Kao primjere navodi pristupe COCONUT i Full-bandwidth Transformers, koji omogućuju prenošenje unutarnjih stanja između koraka obrade bez nužnog pretvaranja zaključivanja u čitljiv tekst. Prema njegovoj procjeni, takav pristup mogao bi omogućiti modelu da korisniku prikazuje jedan tijek odgovora dok složenije zaključivanje ostaje skriveno od nadzornih alata. Riječ je o upozorenju na mogući sigurnosni problem, a ne dokazu da postojeći komercijalni modeli na taj način prikrivaju namjere. Autor poziva AI kompanije da javno otkriju koriste li arhitekture koje omogućuju takvo skriveno zaključivanje.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.
