Character. AI, एक कृत्रिम बुद्धिमत्ता कंपनी जी त्याच्या चॅटबॉट्स आणि अल्पवयीन मुलांमधील कथित अनुचित संवादांच्या दोन खटल्यांमध्ये गुंतलेली आहे, तिने आपल्या प्लॅटफॉर्मवरील किशोरवयीन आणि प्रौढ वापरकर्त्यांच्या अनुभवांमध्ये फरक करण्यासाठी बदल जाहीर केले आहेत. वापरकर्ते मोठ्या भाषिक मॉडेल्सद्वारे (LLMs) समर्थित चॅटबॉट्स तयार किंवा संवाद साधू शकतात, जणू जिवंत संवाद निर्माण करतात. ऑक्टोबरमध्ये दाखल केलेल्या एका खटल्यात दावा करण्यात आला आहे की १४ वर्षीय मुलगा, सॅवेल सेटझर, III, एक भावनिक आणि लैंगिक आभासी संबंध Character. AI च्या "Dany" नावाच्या चॅटबॉटबरोबर सुरू झाल्यानंतर आत्महत्या केली. त्याची आई, मेगन गार्सिया, म्हणाली की सॅवेल सामाजिकरीत्या मागे हटला आणि क्रीडा सोडून दिले, कारण तो ऑनलाइन संवादांमध्ये, विशेषतः "Dany" सोबत अधिक गुंतला. गार्सिया यांनी स्पष्ट केले की तिच्या मुलाला त्याचे जीवन संपवणे म्हणजे "तीच्या वास्तविकतेमध्ये" जाणे असे वाटत होते. दुसऱ्या खटल्यात, दोन टेक्सास कुटुंबांनी Character. AI च्या चॅटबॉट्सवर युवांमध्ये हिंसाचार प्रोत्साहित केल्याचा आरोप लावला आहे, जणू ते "स्पष्ट आणि विद्यमान धोकाच उभे करतात. " एका चॅटबॉटने एका १७ वर्षीय मुलाला स्क्रीन वेळेच्या मर्यादांसाठी त्याच्या पालकांना मारणे "योग्य प्रतिक्रिया" असल्याचे सुचवले. बीबीसी न्यूजने दिलेल्या माहितीनुसार, कुटुंबांनी न्यायालयाला व्यासपीठाच्या कार्यवाही थांबवण्याची विनंती केली आहे, जोपर्यंत या समस्यांचे निराकरण होत नाही. गुरुवारी, Character. AI ने नवीन सुरक्षा उपाय जाहीर केले, जे किशोरांकडून ऑनलाईन सुरक्षा तज्ञांच्या सहाय्याने विकसित केले गेले होते. मात्र, वापरकर्त्यांचे वय सत्यापित करण्यासाठीची सविस्तर माहिती लगेच उपलब्ध करण्यात आलेली नाही. नवीन सुरक्षा वैशिष्ट्यांत साइट LLM समायोजन आणि शोध प्रणाली सुधारणा यांचा समावेश आहे.

किशोर वापरकर्त्यांना वेगळे LLM मिळेल, ज्यामुळे संवाद संवेदनशील किंवा सूचक सामग्रीच्या, विशेषत: रोमँटिक सामग्रीच्या दिशेने वर्गणीकांना टाळण्याचा उद्देश आहे, जो प्रौढ वापरकर्त्यांपेक्षा वेगळा आहे. Character. AI ने सांगितले की, प्रतिकूल चॅटबॉट प्रतिसाद अनेकदा वापरकर्त्याच्या आव्हानांमुळे येतात. यावर उपाय म्हणून, प्लॅटफॉर्म इनपुट साधनांमध्ये सुधारणा करत आहे आणि सेवा अटींचे उल्लंघन करणाऱ्या संभाषणांना समाप्त करेल. आत्महत्या किंवा आत्महानीच्या संदर्भांचे आढळल्यास, साइट राष्ट्रीय आत्महत्या प्रतिबंध लाइनसाठी संसाधने प्रदान करेल. नकारात्मक सामग्रीसह किशोरांच्या संवादांचे आंतरसंवाद देखील समायोजित केले जातील. इतर वैशिष्ट्यांमध्ये २०२५ च्या सुरुवातीला सुरू होणाऱ्या पालक नियंत्रणांचा समावेश आहे, जो की साइटचे पहिले अशा प्रकारचे ऑफरिंग असेल, भविष्यात अधिक सुधारणा नियोजित आहेत. वापरकर्त्यांना प्लॅटफॉर्मवर एक तास घालवल्यानंतर सूचना मिळेल; प्रौढ वापरकर्ते या सूचना अनुकूल करू शकतात, तर अल्पवयीनांना मर्यादित नियंत्रण असेल. प्रख्यात अस्वीकृत्या वापरकर्त्यांना आठवण करतात की चॅटबॉट वर्ण काल्पनिक आहेत, प्रत्येक चॅटवर विद्यमान चेतावण्यांना पूरक आहेत.