В школе появились отчеты о том, что ученики используют инструменты искусственного интеллекта (ИИ) для создания и распространения фальшивых ню-фотографий своих одноклассников. Полицейский департамент Беверли Хиллс начал расследование этих обвинений, как подтвердил представитель города в среду. Конкретно, власти фокусируют свое внимание на учениках из средней школы Беверли Виста, которые якобы использовали программное обеспечение ИИ для создания этих изображений и последующего их распространения среди своих сверстников. Руководитель района обратился к родителям в письме, сообщив, что школьная администрация узнала о наличии "фотографий ню, созданных при помощи ИИ", учащихся на прошлой неделе. Этот инцидент вызвал страх как у студентов, так и у родителей, приводя к тревоге в отношении посещения или отправки детей в школу. К сожалению, по всему миру были зарегистрированы аналогичные случаи использования фальшивых ню-фотографий, сгенерированных при помощи ИИ. Рост доступности приложений и программ, которые изменяют фотографии, лишая объекты одежды или заменяя их лица на эксплицитный контент, привел к резкому увеличению создания несогласованных сексуально эксплицитных глубинных видеоподделок.

Эти глубинные подделки в основном нацелены на женщин и девочек, подчеркивая последствия технологии, которая легко создает такой контент. Мэри Энн Франкс, президент инициативы по кибергражданским правам и профессор школы права университета Джорджа Уашингтона, подчеркнула потенциальные юридические последствия фальшивых ню-фотографий, созданных при помощи ИИ. В зависимости от характера изображений и обстоятельств, окружающих их, Франкс заявила, что они потенциально могут квалифицироваться как преступное поведение, такое как сексуальное домогательство или создание и распространение материалов сексуального насилия над детьми (CSAM). Следует отметить, что не все фотографии ню детей, созданные с использованием ИИ или без него, подпадают под юридическое определение CSAM; только те, которые отображают сексуально эксплицитное поведение, соответствуют этим критериям. Франкс также пояснила, что изображение реальных лиц или частей тела детей в сочетании с эксплицитным контентом запрещено федеральными законами и другими правовыми нормативами. В некоторых ситуациях такие действия могут быть расценены как домогательство или преследование.