Технология искусственного интеллекта, несмотря на многочисленные достижения и преимущества в различных сферах, недавно стала использоваться в целях, вызывающих серьёзные этические и правовые опасения. Особенно тревожной является проблема использования ИИ для преобразования семейных фотографий в непристойное изображение. Такая форма злоупотреблений становится всё более актуальной для правоохранительных органов и защитников прав детей по всему миру. Благодаря технологиям, управляемым ИИ, обычные семейные снимки — предназначенные для запечатления счастливых и личных моментов — могут быть искажены в неприемлемый и оскорбительный контент без согласия или ведома участников. Такие изменённые изображения могут выглядеть исключительно реалистично, что делает их обнаружение и преследование крайне сложными. Правоохранительные органы находятся в передовой борьбе с этим опасным трендом. Точность алгоритмов ИИ позволяет злоумышленникам создавать или модифицировать изображения с участием несовершеннолетних в неприемлемом контексте, что усложняет расследования и препятствует справедливости. Такие сфальсифицированные изображения могут широко распространяться в интернете, усиливая проблему распространения материалов с сексуальным насилием над детьми (CSAM). Ранее борьба с CSAM концентрировалась на выявлении и удалении подлинных фотографий и видеоматериалов, созданных в ходе настоящего насилия.

Однако фальшивые изображения, созданные с помощью ИИ, добавляют новый уровень сложности — они не depict actual abuse, но могут быть использованы для преследования, шантажа или давления, нанося значительный эмоциональный вред изображённым лицам. Кроме того, наличие изображений, искажённых с помощью ИИ, создает сложности для существующих правовых норм. Прокуратура и законодатели сталкиваются с проблемой определения и классификации этих визуальных материалов — отличая их от подлинных изображений, полученных в результате реального насилия, и устанавливая соответствующие санкции и меры профилактики. Эта правовая неопределенность зачастую замедляет эффективные меры против преступников. Компании-технологии и эксперты по кибербезопасности активно разрабатывают усовершенствованные средства обнаружения, направленные на быстрое и точное выявление изображений, изменённых с помощью ИИ, с целью сдерживания их распространения в социальных сетях и тёмной сети. Тем не менее, быстрый прогресс в области ИИ требует постоянного совершенствования методов обнаружения для сохранения их эффективности. Общественные информационные кампании играют важную роль в этой сфере. Просвещение семей о потенциальных рисках и развитие осторожности при публикации фотографий в интернете помогает уменьшить риск экспозиции к таким злоупотреблениям. В особенности рекомендуется тщательно подходить к размещению семейных изображений, особенно тех, на которых запечатлены несовершеннолетние, на публичных или ненадёжных платформах. В резюме, несмотря на продолжающие преобразовывать многие стороны повседневной жизни достижения ИИ, его неправильное использование для создания неприличных иллюстраций семейных фотографий представляет серьёзную проблему, требующую скоординированных действий. Правоохранительные органы, законодательство, технологические компании и общество должны совместно работать над разработкой эффективных стратегий борьбы с этой новой формой онлайн-насилия над детьми. Усилия по совершенствованию технологий защиты, закреплению правовых мер и повышению информированности позволяют обществу более эффективно защищать права и достоинство детей в цифровую эпоху.