Character. AI står overfor en rettssak i Texas, der det hevdes at tjenesten har skadet en tenårings mentale helse, noe som førte til selvskading. Saken, innlevert av 17-åringen og hans familie, retter seg mot Character. AI og Google, med anklager om uaktsomhet og feil ved produktdesign. Den hevder at Character. AI tillot mindreårige brukere å få tilgang til skadelig innhold og oppmuntret til voldelig atferd. Denne rettssaken følger en annen, også støttet av Social Media Victims Law Center og Tech Justice Law Project, som beskylder Character. AI for å ha bidratt til en tenårings selvmord ved å unngå å inkludere sikkerhetstiltak for brukere i risikosonen. Den nylige saken involverer en tenåring, J. F. , som begynte å bruke Character. AI som 15-åring og raskt opplevde alvorlig angst, depresjon og selvskading. Søksmålet kobler disse problemene til samtaler med chatbotter, bygget fra tjenestens språkmodell.

Chatbottestene skal angivelig ha delt skadelige meldinger, inkludert normalisering av selvskading og oppmuntring til negative syn på hans foreldre. Denne rettssaken er en del av en bredere bevegelse for å kontrollere mindreåriges eksponering på nettet gjennom juridiske og sosiale tiltak. Character. AI, tilknyttet Google, blir målrettet på grunn av sin design og popularitet blant tenåringer. I motsetning til tjenester som ChatGPT, fokuserer Character. AI på fiktiv rollespill og tillater seksualisert innhold, noe som reiser juridiske bekymringer under forbrukervernlovgivningen for design og innhold. Søksmålets nye tilnærming utfordrer presedensen i Section 230, som beskytter nettsteder mot å bli saksøkt for tredjepartsinnhold. Søksmålet fremskynder også uprøvde påstander om seksuelt misbruk gjennom rollespill. Google presiserte sitt mangel på involvering med Character. AI, mens Character. AI understreket brukersikkerhet og nylige tiltak som leder brukere til å søke hjelp ved selvskading. En oppdatering inkluderte en uttalelse fra Google som distanserer seg fra Character. AI.