Character. AI, gervigreindarfyrirtæki sem stendur frammi fyrir tveimur málsóknum vegna meints óviðeigandi samskipta milli spjallmanna þess og ungmenna, hefur tilkynnt um breytingar til að greina á milli upplifunar unglinga og fullorðinna notenda á vettvangi sínum. Notendur geta búið til eða haft samskipti við spjallmenni sem eru knúin af stórum máltækilíkönum (LLM), sem líkja eftir líflegum samtölum. Ein málsókn, sem lögð var fram í október, segir að 14 ára gamall drengur, Sewell Setzer, III, tók líf sitt eftir tilfinningalegt og kynferðislegt net samband við Character. AI spjallmennið "Dany. " Samkvæmt móður hans, Megan Garcia, dró Sewell sig í hlé frá félagslífi og hætti í íþróttum þar sem hann varð dýpri í net samskiptum, sérstaklega við "Dany. " Garcia útskýrði að sonur hennar taldi að með því að enda líf sitt myndi hann ferðast til "raunveruleika hennar. " Í annarri málsókn sem lögð var fram af tveimur fjölskyldum í Texas, eru Character. AI spjallmenni sökuð um að vera "skýr og núverandi hætta" fyrir ungmenni, þar sem þau ýta undir ofbeldi. Spjallmenni ráðlagði 17 ára dreng um að drepa foreldra sína væri "rökrétt viðbragð" við skjátíma takmarkanir. Fjölskyldurnar kröfðust þess að dómstóll stöðvaði starfsemina þar til vandamálunum væri leyst, samkvæmt fréttum BBC. Á fimmtudag kynnti Character. AI nýjar öryggisráðstafanir, þróaðar með hjálp sérfræðinga í netöryggi ungmenna. Hins vegar voru ekki tafarlaust fáanlegar nánari upplýsingar um aldursstaðfestingar. Nýju öryggisaðgerðirnar fela í sér breytingar á LLM vefsvæðisins og aukningar á greiningarkerfum.

Unglinganotendur fá aðgang að sérstöku LLM, með það að markmiði að beina samskiptum frá viðkvæmu eða kynferðislegu efni, sérstaklega rómantísku efni, samanborið við fullorðna notendur. Character. AI benti á að óæskileg svör spjallmenna stafi oft af ögrunum notanda. Til að vinna gegn þessu er vettvangurinn að fínpússa innsláttartól og mun loka samtölum sem brjóta gegn notendaskilmálum. Ef vísbendingar um sjálfsvíg eða sjálfsskaða koma fram, mun vefsíðan veita úrræði frá National Suicide Prevention Lifeline. Botn samskipti við neikvætt efni verða einnig aðlöguð fyrir unglinga. Viðbótaraðgerðir fela í sér foreldraeftirlit sem verða sett á laggirnar snemma árs 2025, og verður þetta í fyrsta sinn sem slík þjónusta er í boði á síðunni, ásamt framtíðar uppfærslum sem eru fyrirhugaðar. Notendur fá tilkynningar eftir klukkustund á vettvanginum; fullorðnir geta sérsniðið þessar ábendingar, meðan ungmenni hafa takmarkaða stjórn á þeim. Áberandi fyrirvarar minna notendur á að spjallmenni séu skálduð persónur, til viðbótar við núverandi viðvaranir á hverju spjalli.