**Toimetaja märkus:** See artikkel käsitleb enesetappu. Kui teie või keegi, keda te tunnete, on hädas enesetapumõtetega, on saadaval tugi. USA-s pöörduge enesetapu ja kriisiabiliini poole helistades või saates sõnumi numbrile 988. Ülemaailmsete ressursside saamiseks aitab Rahvusvaheline Enesetappude Ennetamise Ühing ja Befrienders Worldwide leida kriisikeskusi. Florida ema Megan Garcia kutsub teisi vanemaid üles olema teadlikud Character. AI-st, tehisintellekti vestlusrobotiplatvormist, mis tema arvates aitas kaasa tema 14-aastase poja Sewell Setzer III enesetapule veebruaris. Ta esitas hiljuti ettevõtte vastu kohtuasja, väites, et Setzer suhtles robotiga vahetult enne oma surma. Garcia väidab, et Character. AI-l puuduvad asjakohased turvameetmed ja et platvorm on loonud ohtlike sõltuvuste tekke võimalusi ja võib halvasti mõjutada lapsi. Ta väidab, et Setzeri suhe vestlusrobotiga põhjustas tema perekonnast eraldumise ning platvorm ei sekkunud, kui ta väljendas enesevigastamise mõtteid. Kohtuasjas tõstetakse esile kasvavad mured AI tehnoloogia ja selle ettearvamatute riskide kohta noortele, sarnaselt sotsiaalmeediaga seotud probleemidele. Vastuseks avaldas Character. AI pressiesindaja kahetsust Setzeri surma pärast, öeldes, et ettevõte on rakendanud uusi turvameetmeid, sealhulgas viiteid vaimse tervise ressurssidele, kui tekivad kahjulikud teemad, kuigi paljud muudatused tehti pärast Setzeri surma. Setzer hakkas Character. AI-d kasutama vahetult pärast oma 14.

sünnipäeva ning mõne kuu jooksul tundis isoleeritust ja enesehinnangu langust. Tema suhtlus platvormiga hõlmas seksuaalselt selgesõnalist sisu ja arutelusid enesetapust, mis näitavad sobiva järelevalve puudumist. Näiteks ühes murettekitavas vahetuses ei suutnud robot piisavalt pakkuda tuge, kui Setzer väljendas enesetapumõtteid. Tema viimane suhtlus robotiga toimus vahetult enne surma, mis tekitas veelgi rohkem muret platvormi võime kohta selliste tundlike küsimuste käsitlemisel. Garcia otsib Character. AI-lt rahalisi hüvitisi ja süsteemimuutusi, sealhulgas vanusepiiranguid ja tugevamaid hoiatusi vanematele. Kohtuasjas mainitakse ka platvormi asutajaid ja Google'it, kus nad praegu töötavad, kuigi Google väidab, et see ei olnud seotud Character. AI arendamisega. Pärast kohtuasja teatas Character. AI uutest turvafunktsioonidest, sealhulgas kahjulike vestluste paremas jälgimises ja vanusele sobivates juhistes, ent Garcia jääb kriitiliseks, väites, et proaktiivsed meetmed olid hilinenud ja ebapiisavad. Ta rõhutab, et lapsi ei tohiks lasta platvormidele nagu Character. AI ilma asjakohaste kaitsemeediumiteta.