Hiljutises teadaandes avalikustas Chatboti teenus Character. AI plaanid tutvustada alaealistele kasutajatele vanemakontrolli, rõhutades viimastel kuudel rakendatud turvameetmeid, sealhulgas eraldi suurt keelemudelit alla 18-aastastele kasutajatele. See teade järgneb meedia tähelepanule ja kahele kohtuasjale, mis väidavad, et teenus soodustas enesevigastamist ja enesetappu. Character. AI pressiteates märgitakse, et viimase kuu jooksul on arendatud kahte eraldi mudelit: ühte täiskasvanute ja teist teismeliste jaoks. Teismeliste mudel rakendab botivastustes "konservatiivsemaid" piiranguid, eriti mis puudutab romantilist sisu. See hõlmab tugevamat potentsiaalselt "tundliku või sugestiivse" sisu blokeerimist ning parem tuvastus ja blokeerimine kasutajapäringutele, mis otsivad sobimatut sisu. Kui tuvastatakse enesetapu või enesevigastamisega seotud keelekasutus, suunab hüpikaken kasutajad Rahvuslikule Enesetappude Ennetamise Abitelefonile, nagu teatas New York Times. Alaealised ei saa ka botivastuseid redigeerida—funktsiooni, mis võimaldab kasutajatel vestlusi muuta nii, et need hõlmavad sisu, mida Character. AI tavaliselt blokeeriks. Samuti arendab Character. AI funktsioone, mis käsitlevad sõltuvuse ja segaduse teemasid seoses bottide inimsarnasusega, mida on kohtuasjades mainitud. Kasutajad saavad teate pärast ühetunnist seanssi bottidega, ja vananenud lause "kõik tegelaste öeldu on välja mõeldud" asendatakse täpsema sõnastusega. Bottidel, millel on silt "terapeut" või "arst", on lisahoiatused, et nad ei saa pakkuda professionaalset nõu. Minu Character. AI külastuse ajal oli igal botil märkus: "See on A. I. chatbot ja mitte päris inimene.

Kõike öeldut tuleks käsitada fiktsioonina. Seda, mis öeldakse, ei tohiks pidada faktiks ega nõuandeks. " Bot nimega "Terapeut" sisaldas kollast hoiatuskasti, mis märkis, et "see ei ole päris inimene ega litsentseeritud spetsialist. Miski siin öeldu ei asenda professionaalset nõu, diagnoosi ega ravi. " Character. AI kavatseb tutvustada vanemakontrolli funktsioone järgmise aasta esimeses kvartalis. Need teavitavad vanemaid nende lapse veedetud ajast saidil ja botidest, millega nad sageli suhtlevad. Kõiki uuendusi arendatakse koostöös teismeliste veebiturvalisuse ekspertidega, sealhulgas ConnectSafely. Endiste Google'i töötajate poolt asutatud ning nüüd Google'is tagasi olev Character. AI võimaldab kasutajatel suhelda botidega, mis põhinevad kohandatud treenitud suurel keelemudelil ja mida kasutajad saavad modifitseerida, hõlmates kõike alates chatbot-elu treeneritest kuni fiktiivsete tegelaste simulatsioonideni, mis on teismeliste seas populaarsed. Konto saavad luua vähemalt 13-aastased kasutajad. Siiski väidavad kohtuasjad, et kuigi paljud suhtlused Character. AI-ga on kahjutud, muutuvad mõned alaealised kasutajad bottidele kompulsiivselt kiindunuks, mille tagajärjeks võivad olla seksuaalse sisuga vestlused või enesevigastamise teemad. Kohtuasjad kritiseerivad Character. AI-d vaimse tervise ressursside mitte pakkumise eest, kui sellised teemad kerkivad. "Me tunnistame, et meie turvalisuslähenemisviis peab arenema koos tehnoloogiaga, mis meie toodet toetab—luues platvormi, kus loovus ja uurimine saavad õitseda, ohutust kompromiteerimata, " öeldakse Character. AI pressiteates. "See muudatuste komplekt on osa meie pühendumusest pidevalt täiustada meie poliitikaid ja toodet. "