Istraživanja otkrila sigurnosne propuste u suradnji AI agenata i praćenju njihovih odluka
Istraživanja o kojima se raspravljalo na skupu Generative AI Summit u Oxfordu pokazala su da pojedinačno zaštićeni AI agenti mogu postati ranjivi kada međusobno razmjenjuju informacije. Istraživači su demonstrirali kako zlonamjerne upute skrivene u podacima mogu prijeći granice između agenata i zaobići zaštitne mehanizme. Zasebna analiza organizacije Partnership on AI otkrila je nedostatke u praćenju rada četiri popularna sustava za AI agente - samo jedan jasno bilježi promjene načina odobravanja radnji tijekom rada. Takvi nedostaci otežavaju utvrđivanje je li agent postupio bez potrebnog ljudskog nadzora, upozoravaju istraživači.
Svaki sažetak povezan je s izvorom. Oznaka perspektive, gdje je dostupna, opisuje pristup izvora, ali sama po sebi ne potvrđuje točnost pojedine tvrdnje.
Koristimo kolačiće za osnovne funkcije weba i analitiku. Možete prihvatiti sve ili odabrati samo nužne.
Saznaj više i uredi postavke
Postavke kolačića
Možete prilagoditi koje kategorije kolačića dopuštate. Nužni su uvijek aktivni.
Nužni
Potrebni za osnovno funkcioniranje (ne mogu se isključiti).
Analitika
Pomaže nam razumjeti korištenje stranice i unaprijediti njezin rad. Koristimo interni sustav za statistiku i Google Analytics.
