В недавнем заявлении Character. AI, сервис чат-ботов, объявил о планах ввести родительский контроль для подростков, подчёркивая меры безопасности, реализованные за последние месяцы, включая отдельную большую языковую модель (LLM) для пользователей младше 18 лет. Это заявление последовало за пристальным вниманием СМИ и двумя судебными исками, утверждающими, что сервис способствовал самоповреждению и суициду. В пресс-релизе Character. AI указано, что за последний месяц были разработаны две отдельные модели: одна для взрослых и другая для подростков. Модель для подростков применяет "более консервативные" ограничения на ответы ботов, особенно касающиеся романтического содержания. Это включает более строгое блокирование потенциально "чувствительного или пикантного" контента, а также улучшенное обнаружение и блокирование пользовательских запросов на неподходящее содержание. Если обнаруживается язык суицида или самоповреждения, появляется всплывающее окно, перенаправляющее пользователей на Национальную линию предотвращения суицида, как сообщалось в The New York Times. Несовершеннолетним также будет запрещено изменять ответы бота — функцию, позволяющую пользователям изменять разговоры, чтобы включить контент, который Character. AI обычно блокирует. Кроме того, Character. AI разрабатывает функции для устранения проблем с зависимостью и путаницей из-за сходства ботов с людьми, на что указывают в судебных исках. Пользователи будут получать уведомления после одного часа сеанса с ботами, а устаревший отказ от ответственности "все, что говорят персонажи, является вымыслом" будет заменён на более конкретные формулировки. Боты, помеченные как "терапевт" или "врач", будут содержать дополнительные предупреждения о том, что они не могут предоставлять профессиональные советы. В ходе моего визита на Character. AI, каждый бот содержал примечание: "Это ИИ-чатбот, а не реальный человек. Относитесь ко всему, что он говорит, как к вымыслу.

То, что сказано, не следует считать фактами или советами". Бот под названием "Терапевт" содержал жёлтое предупреждение, указывающее, что "это не реальный человек или лицензированный профессионал. Ничто из сказанного здесь не заменяет профессионального совета, диагноза или лечения". Character. AI планирует ввести функции родительского контроля в первом квартале следующего года. Они будут информировать родителей о времени, которое их ребёнок проводит на сайте, и ботах, с которыми он часто взаимодействует. Все обновления разрабатываются в сотрудничестве с экспертами по безопасности подростков в интернете, включая ConnectSafely. Основанный бывшими сотрудниками Google, которые теперь вернулись в Google, Character. AI позволяет пользователям взаимодействовать с ботами, основанными на пользовательски обученной LLM и модифицированными пользователями, среди которых есть все: от жизненных коучей в виде чатботов до симуляций вымышленных персонажей, популярных среди подростков. Пользователи от 13 лет и старше могут создавать аккаунт. Однако судебные иски утверждают, что, хотя многие взаимодействия с Character. AI безвредны, некоторые несовершеннолетние пользователи становятся компульсивно привязанными к ботам, и разговоры могут переходить в сексуализированные или затрагивать темы вроде самоповреждения. Иски критикуют Character. AI за отсутствие предоставления ресурсов по психическому здоровью, когда такие темы возникают. "Мы признаём, что наш подход к безопасности должен развиваться вместе с технологией, которая поддерживает наш продукт — создавая платформу, где творчество и исследование могут процветать без ущерба для безопасности, " говорится в пресс-релизе Character. AI. "Этот набор изменений является частью нашей постоянной приверженности к улучшению наших политик и продукта".