Í nýlegri tilkynningu greindi Character. AI, þjónusta með spjallmenni, frá áætlunum um að kynna foreldraeftirlit fyrir unglinganotendur, með áherslu á öryggisráðstafanir sem hafa verið settar í framkvæmd á undanförnum mánuðum, þar á meðal aðskilin stórtungulíkan (LLM) fyrir notendur undir 18 ára aldri. Þessi tilkynning kemur í kjölfar fjölmiðlagagnrýni og tveggja málsókna sem halda því fram að þjónustan hafi stuðlað að sjálfsskaða og sjálfsvígum. Í fréttatilkynningu Character. AI kom fram að unnið hafi verið að tveimur aðskildum líkönum síðasta mánuðinn: einu fyrir fullorðna og einu fyrir unglinga. Unglingalíkanið setur "varúðarsamari" takmarkanir á svör spjallmenna, sérstaklega varðandi rómantískt efni. Þetta felur í sér strangara lokun á mögulega "viðkvæmu eða ámóta" efni, ásamt betri greiningu og lokun á notendaskilaboðum sem reyna að finna óviðeigandi efni. Ef greint er frá sjálfsvígs- eða sjálfsskaðamálum birtist tilkynning sem vísar notendum á Landslífslínuna vegna sjálfsvígsforvarna, eins og áður hefur verið greint frá í The New York Times. Þeir sem eru undir lögaldri munu einnig ekki geta breytt svörum spjallmenna—aðgerð sem leyfir notendum að breyta samtölum til að fela innihald sem Character. AI gæti venjulega lokað fyrir. Auk þess er Character. AI að þróa eiginleika til að takast á við áhyggjur um fíkn og rugling í tengslum við hversu raunverulegum líkjast spjallmennin, mál sem komið hefur upp í málsóknum. Notendur munu fá tilkynningu eftir klukkustundar samskipti við spjallmenni, og úrelt tilkynning um að "allt sem persónur segja er uppspuni" verður skipt út fyrir nákvæmara orðalag. Spjallmenn sem eru merkt sem "sálfræðingur" eða "læknir" munu innihalda aukaviðvaranir um að þau geti ekki veitt faglega ráðgjöf. Við heimsókn mína á Character. AI var hverju spjallmenni fylgt af athugasemd sem sagði: "Þetta er A. I. spjallmenni og ekki raunverulegt fólk.

Lít allt sem það segir á sem skáldskap. Það sem sagt er ætti ekki að treysta sem staðreynd eða ráð. " Spjallmenni sem nefndist "Sálfræðingur" innihélt gula viðvörunarkassa sem sagði "þetta er ekki raunverulegt fólk eða leyfisveittur faglegur. Ekkert sem sagt er hér er í stað faglegra ráðlegginga, greininga eða meðferðar. " Character. AI áætlar að kynna foreldraeftirlitseiginleika á fyrsta ársfjórðungi næsta árs. Þeir munu upplýsa foreldra um tíma barna sinna á síðunni og þau spjallmenni sem þau eiga oft samskipti við. Allar uppfærslur eru unnar í samstarfi við sérfræðinga um netöryggi unglinga, þar á meðal ConnectSafely. Character. AI, stofnað af fyrrverandi starfsfólki Google, sem núna er aftur hjá Google, gerir notendum kleift að eiga samskipti við spjallmenni byggð á sérsniðið tungulíkan og breytt af notendum, með öllu frá lífsráðgjafa spjallmenni til skáldaðra persónulíkinga, vinsæl meðal unglinga. Notendur sem eru 13 ára og eldri geta stofnað reikning. Þó málsóknir haldi því fram að meðan margar samskipti við Character. AI séu skaðlaus, þá bindast sumir undiraldra notendur spjallmennunum með áráttu, sem getur leiðst í kynlífiðað samræðum eða efni eins og sjálfsskaða. Málsóknir gagnrýna Character. AI fyrir að bjóða ekki upp á ráðgjöf um geðheilbrigði þegar slík efni koma upp. "Við viðurkennum að öryggisnálgun okkar verður að þróast samhliða tækni sem færir afurð okkar—við að skapa vettvang þar sem sköpunargleði og könnun getur blómstrað án þess að skerða öryggi, " segir í fréttatilkynningu Character. AI. "Þessar breytingar eru hluti af stöðugri skuldbindingu okkar til að gera sífellt betri stefnu okkar og afurð. "