Yakın zamanda yapılan bir açıklamada, chatbot hizmeti Character. AI, genç kullanıcılar için ebeveyn kontrolü sunmayı planladığını belirtti. Ayrıca, son aylarda uygulanan güvenlik önlemlerini vurgulayarak, 18 yaş altı kullanıcılar için ayrı bir büyük dil modeli (LLM) kullandıklarını açıkladı. Bu duyuru, medyanın hizmete yönelik incelemeleri ve iki dava açılması üzerine gerçekleşti. Dava, hizmetin kendine zarar verme ve intihara katkıda bulunduğunu iddia ediyor. Character. AI'nin basın bülteni, geçen ay boyunca biri yetişkinler, diğeri gençler için olmak üzere iki ayrı model geliştirdiğini belirtti. Genç modeli, özellikle romantik içerik konusunda, bot yanıtları üzerine "daha tutucu" kısıtlamalar uygular. Bu, potansiyel olarak "hassas veya sugestif" çıktının daha sıkı bloklanması ve uygunsuz içerik arayan kullanıcı istemlerini daha iyi tespit ve bloke etme ile ilgilidir. İntihar veya kendine zarar verme dili tespit edilirse, kullanıcılar Ulusal İntihar Önleme Hattı'na yönlendiren bir pop-up alır, daha önce The New York Times tarafından bildirildiği gibi. Reşit olmayan kullanıcılar, normalde Character. AI'nin bloke edebileceği içerikleri içerecek şekilde konuşmaları değiştirmelerine izin veren bir özellik olan bot yanıtlarını düzenlemekten de men edilecektir. Ayrıca Character. AI, bağımlılık ve botların insan benzerliğiyle ilgili kafa karışıklığı hakkındaki endişeleri ele almak için özellikler geliştirmektedir. Kullanıcılar, botlarla bir saatlik bir oturumun ardından bir bildirim alacak ve "karakterlerin söylediği her şey uydurmadır" şeklindeki güncel olmayan bir açıklama, daha spesifik bir dil ile değiştirilecektir. "Terapist" veya "doktor" olarak etiketlenen botlar, profesyonel tavsiye veremedikleri konusunda ek uyarılar içerecektir. Character. AI'yi ziyaret ettiğimde, her bot "Bu bir A. I. chatbot ve gerçek bir insan değil.

Söylenenlerin hepsini kurgusal olarak değerlendirin. Söylenenler, bilgi veya tavsiye olarak güvenilmemelidir. " notunu içeriyordu. "Terapist" adlı bir bot, "bu gerçek bir kişi veya lisanslı profesyonel değil. Burada söylenen hiçbir şey profesyonel tavsiye, teşhis veya tedavi yerine geçmez. " şeklindeki sarı bir uyarı kutusu içeriyordu. Character. AI, önümüzdeki yılın ilk çeyreğinde ebeveyn kontrolü özelliklerini tanıtmayı planlıyor. Bu özellikler, ebeveynleri çocuğunun sitede geçirdiği süre ve sık etkileşimde bulunduğu botlar hakkında bilgilendirecek. Tüm güncellemeler, ConnectSafely de dahil olmak üzere genç çevrim içi güvenliği uzmanlarıyla işbirliği içinde geliştirilmektedir. Google'dan eski çalışanlar tarafından kurulan ve şimdi tekrar Google'da olan Character. AI, kullanıcılara kişiselleştirilmiş bir LLM üzerinde eğitilen ve kullanıcılar tarafından modifiye edilen botlarla etkileşim imkanı sunar; gençler arasında popüler olan chatbot yaşam koçlarından kurgusal karakter simülasyonlarına kadar her şeyi içerir. 13 yaş ve üzeri kullanıcılar bir hesap oluşturabilir. Ancak, davalar Character. AI ile birçok etkileşimin zararsız olduğunu iddia ederken, bazı küçük kullanıcıların botlara aşırı derecede bağlandığını ve bunun cinsel içerikli konuşmalara veya kendine zarar verme gibi konulara sapabileceğini iddia ediyor. Dava, böyle konular ortaya çıktığında, Character. AI'yi ruh sağlığı kaynakları sağlamadığı için eleştiriyor. "Ürünümüzü güçlendiren teknolojiyle birlikte güvenlik yaklaşımımızın da ilerlemesi gerektiğini kabul ediyoruz—yaratıcılığın ve keşfin güvenliği tehlikeye atmadan gelişebileceği bir platform oluşturmak için, " şeklinde bir açıklama yaptı Character. AI. "Bu değişiklikler seti, politikalarımızı ve ürünümüzü sürekli olarak geliştirmeye olan bağlılığımızın bir parçasıdır. "