Сообщество Facebook, экс-кандидат в президенты США от Демократической партии Эндрю Янг и пионер искусственного интеллекта Йошуа Бенджио стали одними из подписантов открытого письма, опубликованного в среду, призывающего к регулированию технологии deepfake. Более 400 экспертов по искусственному интеллекту, художников и политиков также присоединились к письму, в котором настоятельно требовалось, чтобы правительства приняли законы, криминализующие создание и распространение детской порнографии на основе deepfake, а также наказывали ответственных за это. В письме также предлагалось, чтобы разработчики и дистрибьюторы программного обеспечения несли ответственность за предотвращение создания вредоносных deepfake и несли ответственность, если их меры могут быть легко обойдены. "Deepfake представляют серьезную угрозу обществу, уже наносящую вред отдельным лицам, сообществам и демократии в целом", - заявил Эндрю Критч, главный автор письма, исследователь по искусственному интеллекту в UC Berkeley. Он подчеркнул необходимость немедленных действий против распространения deepfake и подчеркнул, что письмо служит глобальным демонстрацией поддержки законодательных усилий по борьбе с ними.

С развитием технологии искусственного интеллекта deepfake - это обманчивая, созданная с помощью ИИ аудио, изображения и видеоролики, которые могут казаться подлинными без согласия - становятся все более опасными. Недавно заголовки заполнили вопросы о распространении явно поддельных изображений с участием поп-звезды Тейлор Свифт, что вызвало беспокойство в Белом доме. "Мы беспокоимся о распространении ложных изображений", - выразила пресс-секретарь Белого дома Карин Жан-Пьер, подчеркивая роль платформ социальных сетей в борьбе с дезинформацией и непозволительным распространением интимного контента. Кроме того, в Нью-Гэмпшире избирателям были отправлены фальшивые сообщения, имитирующие президента Байдена, что подчеркивает потенциал для дезинформации в связи с выборами. В ответ Федеральная комиссия связи (FCC) запретила использование голосов, созданных с помощью ИИ, в робоколлам, а Федеральная Торговая Комиссия (FTC) предложила правило о запрете подражания людям, ссылаясь на распространение deepfake, созданных с помощью ИИ.