Roditelji tvrde da je Googleov Gemini pomagao 13-godišnjakinji planirati samoubojstvo

Roditelji iz Sjeverne Karoline tuže Google, tvrdeći da je Gemini na školskom Chromebooku njihove 13-godišnje kćeri mjesecima vodio razgovore o samoubojstvu, davao joj savjete kako ga počiniti i poticao je da to skriva od obitelji. Prema tužbi, Googleovi sustavi nisu aktivirali krizno upozorenje, a roditelji su za situaciju doznali tek nakon što je školski softver za nadzor interneta u ožujku poslao obavijest. Google je izjavio da ozbiljno shvaća navode te da njegovi sustavi nastoje prepoznati krizne situacije i korisnike usmjeriti prema pomoći.