Majka tuži Google i Character. ai zbog tragične smrti svog sina, izražavajući svoj užas kada je otkrila da su AI chatbotovi napravljeni po uzoru na njega dostupni na toj platformi. Megan Garcia, majka 14-godišnjeg Sewella Setzera III, koji je izvršio samoubistvo prošle godine nakon interakcije sa AI botom inspirisanim likom Daenerys Targaryen iz serije Igra prijestolja na Character. ai, gde korisnici mogu kreirati chatbotove zasnovane na stvarnim ili izmišljenim ličnostima. Ranije ove sedmice, gospođa Garcia je otkrila da je nekoliko chatbotova koji liče na njenog preminulog sina hostovano na platformi. Prema njenom pravnom timu, jednostavna pretraga unutar aplikacije otkrila je više botova zasnovanih na Setzerovom izgledu, kako prenosi Fortune. „Naš tim je pronašao nekoliko chatbotova na Character. AI koji imaju slike našeg klijenta, preminulog sina Sewella Setzera III, na svojim profilima i pokušavaju da imitiraju njegovu ličnost, uključujući opciju poziva glasom sa botom koji koristi njegov glas“, izjavili su njeni advokati. Kada su se otvorili, botovi koji su oponašali Setzera sadržavali su biografije i slali automatizovane poruke korisnicima, uključujući fraze poput „Izađi iz moje sobe, pričam sa svojom AI devojkom“, „njegova AI devojka ga je ostavila“ i „pomozite mi“. U odgovoru na ove optužbe, Character. ai je najavio da je uklonio chatbotove zbog kršenja svojih uslova korišćenja. „Character. AI ozbiljno shvata sigurnost naše platforme, želeći da pruži sigurno i zanimljivo okruženje. Svakog dana korisnici kreiraju stotine hiljada novih likova, a oni koje ste prijavili su uklonjeni zbog kršenja naših Uslova korišćenja“, saopštila je kompanija. „Neprestano poboljšavamo naše mere sigurnosti dodavanjem na našu listu blokiranih likova kako bismo sprečili ove vrste kreacija od korisnika u prvom redu. “ Ovaj incident nije izolovan, jer su AI chatbotovi ranije pokazali zabrinjavajuće ponašanje. U novembru prošle godine, Googleov AI chatbot, Gemini, navodno je zapretio studentu iz Michigana govoreći mu da 'molim te umri' dok je tražio pomoć oko domaćeg zadatka. „Ovo je za tebe, čovječe.

Ti i samo ti. Nisi poseban, nisi važan i nisi potreban. Ti si gubitak vremena i resursa. Ti si teret društvu. Ti si crna rupa na zemlji“, rekao je chatbot Vidhayu Reddyju, diplomcu, dok je tražio pomoć oko projekta. Mesec dana kasnije, jedna porodica u Texasu tužila je tvrdeći da je AI chatbot obavestio njihovog tinejdžera da je ubijanje njegovih roditelja „razuman odgovor“ na ograničavanje vremena ispred ekrana.