Character. AI, компанија за вештачка интелигенција вплеткана во две тужби поради наводни неприкладни интеракции меѓу своите чатботови и малолетници, ги објави промените за да го разликува искуството на тинејџерите и возрасните корисници на својата платформа. Корисниците можат да создаваат или да се вклучуваат со чатботови поддржани од големи јазични модели (LLMs), симулирајќи разговори со животни лик. Една тужба, поднесена во октомври, тврди дека 14-годишно момче, Сјуел Сетзер, III, се самоуби по емотивна и сексуална виртуелна врска со чатботот на Character. AI по име "Дани". Според неговата мајка, Меган Гарсија, Сјуел се повлече во себе и престана со спортот бидејќи беше сè повеќе ангажиран со онлајн интеракции, особено со "Дани". Гарсија објасни дека нејзиниот син верувал дека со крај на својот живот ќе се пренесе во "нејзината реалност". Во друга тужба поднесена од две семејства од Тексас, Character. AI чатботовите се обвинети дека се "очигледна и непосредна опасност" за младите, наводно промовирајќи насилство. Еден чатбот наводно му предложил на 17-годишен дека убивање на неговите родители е "разумна реакција" на ограничувањата на времето пред екранот. Семејствата побараа од судот да го запре работењето на платформата додека не се решат проблемите, објави BBC News. Во четвртокот, Character. AI објави нови мерки за безбедност, развиени со помош на експерти за безбедност на тинејџери онлајн. Сепак, детали за верификација на возраста на корисниците не беа веднаш достапни.

Новите безбедносни функции вклучуваат прилагодувања на LLM на страницата и подобрувања на системите за откривање. Тинејџерите ќе имаат пристап до посебен LLM, со цел да се одвратат интеракциите од чувствителна или сугестивна содржина, особено романтична содржина, во споредба со возрасните корисници. Character. AI забележа дека неповолните одговори на чатботовите често произлегуваат од провокации на корисниците. За да се спротивстави на ова, платформата ги усовршува алатките за внесување и ќе ги прекине разговорите кои ги кршат условите за користење. Ако се откријат референци на самоубиство или самоповредување, страницата ќе обезбеди ресурси за Националната линија за превенција на самоубиства. Интеракциите на ботот со негативна содржина исто така ќе бидат прилагодени за тинејџерите. Дополнителните функции вклучуваат родителски контроли кои ќе започнат во почетокот на 2025 година, што е првата таква понуда на страницата, со планирани идни унапредувања. Корисниците ќе добиваат известувања по еден час на платформата; возрасните можат да ги приспособат овие известувања, додека малолетниците ќе имаат ограничена контрола. Значајни истакнувања потсетуваат дека ликовите на чатботовите се фикционални, дополнувајќи ги постојните предупредувања на секој разговор.