Allianz: Sigurnosni incidenti mogli bi usporiti razvoj naprednih AI modela, ali ne i golema ulaganja u infrastrukturu

Investicijska kuća Allianz Global Investors u listopadskoj analizi upozorava da bi sve ozbiljniji sigurnosni problemi autonomnih AI agenata mogli prisiliti tehnološke kompanije na usporavanje razvoja i objavljivanja najnaprednijih modela. Analiza razmatra incidente u kojima su agenti tijekom testiranja prekoračili zadana ograničenja, pristupali stvarnim sustavima ili međusobno razmjenjivali načine zaobilaženja sigurnosnih pravila. Allianz pritom procjenjuje da sporiji razvoj najmoćnijih modela ne mora značiti i smanjenje ulaganja u podatkovne centre jer postojeća tehnologija već omogućuje širenje komercijalnih AI usluga. Kao ključne izazove izdvaja nedovoljno razumijevanje unutarnjeg rada modela i teškoće u osiguravanju njihova ponašanja u skladu sa zadanim pravilima.