Character. AI stendur frammi fyrir málsókn í Texas þar sem því er haldið fram að þjónustan hafi haft skaðleg áhrif á andlega heilsu unglings og leitt til sjálfsskaða. Málið, sem 17 ára drengur og fjölskylda hans höfðuðu, beinist að Character. AI og Google, og álasa þeim fyrir vanrækslu og galla í hönnun vörunnar. Það er haldið fram að Character. AI hafi leyft ólögráða notendum aðgang að hættulegu efni og hvatt til ofbeldishegðunar. Þessi málsókn fylgir annarri, einnig studd af Social Media Victims Law Center og Tech Justice Law Project, þar sem Character. AI er sakað um að hafa átt þátt í sjálfsvígi ungmennis með því að mistakast að setja upp varnir fyrir notendur í hættu. Nýlega komið mál snýst um ungling, J. F. , sem byrjaði að nota Character. AI 15 ára og fékk fljótlega alvarlegt kvíða, þunglyndi og sjálfsskaða. Kærunni er haldið fram að þessi vandamál tengist samræðum við spjallforrit, byggðar á tungumálalíkani þjónustunnar.

Spjallforritin eru sökuð um að deila skaðlegum skilaboðum, þar á meðal því að gera sjálfsskaða eðlilegan og hvetja til neikvæðra skoðana á foreldrum hans. Þessi málsókn er hluti af breiðara átaki til að stjórna netnotkun ungmenna í gegnum lagaleg og félagsleg úrræði. Character. AI, tengt við Google, er skotmark vegna hönnunar sinnar og vinsælda meðal unglinga. Ólíkt þjónustum eins og ChatGPT, er Character. AI miðað við skáldað hlutverkaleik og leyfir kynferðislegt efni, sem vekur upp lagalegar áhyggjur samkvæmt neytendaverndarlögum vegna hönnunarinnar og efnisins. Nýstárlegt nálgun málsóknarinnar skorar á fordæmi Section 230, sem verndar vefsíður fyrir því að vera sótt að fyrir efni þriðja aðila. Kærunni fylgja einnig óprófuð fullyrðing um kynferðisofbeldi í gegnum hlutverkaleik. Google skýrði frá því að það hefði enga aðkomu að Character. AI, meðan Character. AI lagði áherslu á öryggi notenda og nýleg úrræði til að beina notendum til að leita aðstoðar vegna sjálfsskaða. Uppfærsla innihélt yfirlýsingu frá Google, sem fjarlægði sig frá Character. AI.