अलीकडील घोषणेत, चॅटबॉट सेवा कॅरॅक्टर. AI ने किशोरवयीन वापरकर्त्यांसाठी पालक नियंत्रणाची ओळख करून देण्याची योजना उघड केली आहे, ज्यामध्ये अलिकडच्या महिन्यांत लागू केलेल्या सुरक्षा उपायांचा समावेश आहे, ज्यात 18 वर्षांखालील वापरकर्त्यांसाठी स्वतंत्र लार्ज लँग्वेज मॉडेल (LLM) समाविष्ट आहे. ही घोषणा माध्यमांच्या तपासणीनंतर आणि दोन खटल्यांनंतर आली आहे, ज्यात सेवेला आत्महानी आणि आत्महत्येसाठी जबाबदार ठरवले आहे. कॅरॅक्टर. AI च्या प्रसिद्धीकर्तव्याने गेल्या महिन्यात दोन वेगवेगळ्या मॉडेल्सच्या विकासाची घोषणा केली: एक प्रौढांसाठी आणि एक किशोरांसाठी. किशोर मॉडेल बॉटच्या प्रतिक्रिया "अधिक रुढीवादी" निर्बंध लावतात, विशेषत: रोमँटिक सामग्री संदर्भात. यात संभाव्य "संवेदनशील किंवा सूचक" आउटपुट कडकपणे ब्लॉक करणे, तसेच अनुचित सामग्री शोधण्याच्या वापरकर्त्यांच्या प्रॉम्प्टची सुधारलेली ओळख आणि ब्लॉकिंग समाविष्ट आहे. जर आत्महत्या किंवा आत्महानी भाषा आढळली तर, एक पॉप-अप वापरकर्त्यांना नॅशनल सुसाइड प्रीव्हेंशन लाईफलाइनकडे निर्देशित करते, जसे की न्यूयॉर्क टाईम्सने पूर्वी अहवाल दिला आहे. कमी वयाच्या व्यक्तींना देखील बॉटच्या प्रतिक्रियांचे संपादन करण्यापासून प्रतिबंधित केले जाईल, अशी सुविधा जी वापरकर्त्यांना कॅरॅक्टर. AI सहसा ब्लॉक करू शकते अशा सामग्रीमधे संवाद बदलण्याची परवानगी देते. याखेरीज, कॅरॅक्टर. AI व्यसन आणि बॉट्सच्या मानववतारासंबंधित गोंधळ यासंबंधी चिंता दूर करण्यासाठी वैशिष्ट्ये विकसित करत आहे, जी खटल्यांमध्ये नमूद केलेल्या समस्या आहेत. वापरकर्त्यांना बॉट्ससह एक तास सत्र झाल्यानंतर सूचना मिळेल, आणि "जेव्हा कॅरेक्टर्स काहीही सांगतात ते बनावट आहे" असे सांगणारी जुनी साक्षाशिवाय वैशिष्ट्य बदलले जाईल. "थेरपिस्ट" किंवा "डॉक्टर" लेबल असलेल्या बॉट्समध्ये अतिरिक्त चेतावणी असेल की ते व्यावसायिक सल्ला देऊ शकत नाहीत. माझ्या कॅरॅक्टर. AI भेटीच्या वेळी, प्रत्येक बॉटवर एक नोट होती, ज्यात "हे ए. आय. आहे आणि एक खऱ्या व्यक्ती नाही. ते जे काही सांगते ते कल्पित मानले पाहिजे.

त्यावर तथ्य किंवा सल्ला म्हणून अवलंबून राहू नये" असे लिहिले होते. "थेरपिस्ट" नावाच्या बॉटला एक पिवळा चेतावणी बॉक्स होता ज्यात "हे खरे व्यक्ती किंवा परवाना घेतलेले व्यावसायिक नाही. येथील काहीही व्यावसायिक सल्ला, निदान, किंवा उपचार याची जागा घेऊ शकत नाही. " कॅरॅक्टर. AI पुढील वर्षाच्या पहिल्या तिमाहीत पालक नियंत्रण वैशिष्ट्ये सादर करण्याची योजना आखत आहे. हे त्यांच्या मुलांनी साइटवर घालवलेल्या वेळेबद्दल आणि त्यांनी नेहमीचसंवाद साधलेल्या बॉट्सबद्दल पालकांना सूचित करतात. सर्व अद्यतने किशोर ऑनलाइन सुरक्षा तज्ञांसोबत, जसे की ConnectSafely सह सहकार्याने विकसित केली जात आहेत. माजी गुग्लर्स, आता गुगलमध्ये परत आलेले, यांनी स्थापन केलेले कॅरॅक्टर. AI वापरकर्त्यांना कस्टम-प्रशिक्षित LLM वर आधारित बॉट्ससह संवाद साधू देतात आणि वापरकर्त्यांनी बदललेले बॉट्ससह, जीवन प्रशिक्षकांपासून ते कल्पित पात्रांचे अनुकरण करण्यासाठी सर्व काही वैशिष्ट्यीकृत करतात, किशोरांमध्ये लोकप्रिय. 13 आणि त्यावरील वयाच्या वापरकर्त्यांना खाते तयार करण्याची परवानगी आहे. तथापि, खटल्यांमध्ये असा दावा केला जातो की कॅरॅक्टर. AI सह अनेक संवाद हानिकारक नसतील तरी काही कमी वयाचे वापरकर्ते बॉट्सशी आकृष्ट होतात, जे लैंगिक संवाद किंवा आत्महानीसारख्या विषयांमध्ये परिवर्तित होऊ शकतात. अशा विषयांचा उदय झाल्यास मानसिक आरोग्य संसाधन उपलब्ध न केल्याबद्दल खटले कॅरॅक्टर. AI ची टीका करतात. "आम्ही मान्यता देतो की आमची सुरक्षा उपाय दृष्टिकोन आमच्या उत्पादनाच्या तंत्रज्ञानासोबत प्रगत होणे आवश्यक आहे—निर्मिती आणि अन्वेषण एका अशा प्लॅटफॉर्मवर करता येईल, जिथे सुरक्षा ताप नाही, " कॅरॅक्टर. AIच्या प्रसिद्धीकर्तव्याने घोषणा केली. "हा बदलांचा समूह आमच्या धोरणांचे आणि उत्पादनाचे सातत्याने वाढविण्याच्या आमच्या चालू प्रतिबद्धतेचा भाग आहे. "