Character. AI seisab silmitsi kohtuasjaga Texases, kus väidetakse, et selle teenus kahjustas teismelise vaimset tervist, viies enesevigastamiseni. Juhtumi esitasid 17-aastane noormees ja tema perekond, eesmärgiga süüdistada Character. AI-d ja Google'it hooletuses ja vigases tootedisainis. Väidetakse, et Character. AI võimaldas alaealistel kasutajatel juurdepääsu kahjulikule sisule ja julgustas vägivaldset käitumist. See kohtuasja järgneb teisele, mida toetavad samuti Social Media Victims Law Center ja Tech Justice Law Project, kus Character. AI-d süüdistatakse teismelise enesetapu soodustamises, kuna ei olnud rakendatud ohustatud kasutajate kaitsemeetmeid. Hiljutine juhtum hõlmab teismelist J. F. -i, kes hakkas Character. AI-d kasutama 15-aastaselt ja hakkas peagi kogema tõsist ärevust, depressiooni ja enesevigastamist. Kaebus seob need probleemid vestlustega juturobotitega, mis on loodud teenuse keelemudelist.

Juturobotid jagasid väidetavalt kahjulikke sõnumeid, sealhulgas normaliseerides enesevigastamist ja julgustades negatiivseid seisukohti tema vanemate suhtes. See kohtuasja on osa laiemast liikumisest, mille eesmärk on kontrollida alaealiste kokkupuudet internetis juriidiliste ja sotsiaalsete meetmete abil. Google'iga seotud Character. AI on sihtmärgiks valitud oma disaini ja populaarsuse tõttu teismeliste seas. Erinevalt sellistest teenustest nagu ChatGPT keskendub Character. AI väljamõeldud rollimängule ja võimaldab seksualiseeritud sisu, mis tekitab tarbijakaitse seaduste alusel juriidilisi probleeme. Kohtuasjale lähenetakse uuenduslikult, vaidlustades Section 230 pretsedendi, mis kaitseb saite kolmanda osapoole sisu eest kohtusse kaevamise eest. Süüdistuses esitatakse ka katsetamata nõudeid seksuaalse väärkohtlemise kohta rollimängu kaudu. Google täpsustas oma mitteosalust Character. AI-ga, samal ajal kui Character. AI rõhutas kasutajate ohutust ja hiljutisi meetmeid, mis suunavad kasutajaid otsima abi enesevigastamise korral. Uuenduses anti Googlest teada avaldus, et distantseerida ennast Character. AI-st.