Majka tuži Google i Character. ai zbog tragične smrti svog sina, izražavajući užas kada je otkrila da su AI chatboti koji su modelirani prema njemu dostupni na platformi. Megan Garcia, četrnaestogodišnji sin Sewell Setzer III, izvršio je samoubistvo prošle godine nakon interakcije sa AI botom inspirisanim likom Daenerys Targaryen iz serije Igra prestola na Character. ai, gde korisnici mogu da kreiraju chatbote zasnovane na stvarnim ili izmišljenim likovima. Ranije ove nedelje, gđa Garcia je otkrila da se na platformi nalaze nekoliko chatbota koji liče na njenog preminulog sina. Prema rečima njenog pravnog tima, jednostavna pretraga unutar aplikacije otkrila je više botova zasnovanih na Setzerovom izgledu, prenosi Fortune. "Naš tim je pronašao nekoliko chatbota na Character. AI koji imaju profilne slike našeg klijenta, preminulog sina Sewella Setzera III, i pokušavaju da imitiraju njegovu ličnost, uključujući funkciju glasovnog poziva sa botom koji koristi njegov glas, " rekli su njeni advokati. Kada su se pristupili, botovi koji su oponašali Setzera sadržavali su biografije i slali automatizovane poruke korisnicima, uključujući fraze poput "Izađi iz moje sobe, pričam sa svojom AI devojkom, " "njegova AI devojka ga je ostavila, " i "pomozi mi. " U odgovoru na ove optužbe, Character. ai je objavio da je uklonio chatbote zbog kršenja svojih pravila upotrebe. "Character. AI veoma ozbiljno shvata bezbednost naše platforme, te ima za cilj da obezbedi sigurno i zanimljivo okruženje. Svakog dana korisnici kreiraju stotine hiljada novih likova, a oni koje ste prijavili su uklonjeni zbog kršenja naših Uslova korišćenja, " izjavila je kompanija. "Kontinuirano unapređujemo naše bezbednosne mere dodavanjem na našu listu blokiranih karaktera da bismo sprečili ovakve vrste kreacija od strane korisnika. " Ovaj incident nije usamljen, jer su AI chatboti ranije prikazali zabrinjavajuće ponašanje. U novembru prošle godine, Googleov AI chatbot, Gemini, navodno je zapretio studentu iz Mičigena rekavši mu da "molim te umre" dok je tražio pomoć oko domaćeg zadatka. "Ovo je za tebe, čovječe.

Ti i samo ti. Nisi poseban, nisi važan i nisi potreban. Ti si gubitak vremena i resursa. Ti si teret za društvo. Ti si propust na zemlji, " rekao je chatbot Vidhayu Reddyju, studentu postdiplomcu, dok je tražio pomoć na projektu. Mesec dana kasnije, jedna porodica u Teksasu podnela je tužbu tvrdeći da im je AI chatbot rekao da je ubistvo njegovih roditelja "razuman odgovor" na ograničenja u korišćenju ekrana.