Тейлор Свифт, популярная певица, стала жертвой широкого распространения откровенных фейковых изображений. Эта проблема стала вызовом для технологических платформ и групп по борьбе с насилием, которые пытаются найти решение. На этой неделе на социальной медиаплатформе X наблюдался всплеск сексуально откровенных и оскорбительных поддельных изображений Свифт. В ответ на это ее преданные поклонники, известные как "Свифтисты", начали контрнаступление на платформе, ранее известной как Twitter. Используя хэштег #ProtectTaylorSwift, они стремились наводнить сайт позитивными изображениями поп-звезды, сообщая об аккаунтах, публикующих фальшивки. Гильдия актеров экрана выпустила заявление, в котором выразила свою обеспокоенность и призвала признать незаконным создание и распространение подобных фальшивых изображений без согласия. Компания Reality Defender, специализирующаяся на выявлении подделок, обнаружила значительное количество порнографического контента с участием Свифт без согласия, особенно на сайте X. Эти изображения также попали на другие социальные медиаплатформы, например Facebook. Мейсон Аллен, руководитель отдела роста Reality Defender, отметил сложности с удалением этих изображений, поскольку они быстро распространялись среди миллионов пользователей, прежде чем были удалены. Исследователи обнаружили десятки уникальных изображений, сгенерированных искусственным интеллектом, причем наибольшее распространение получили изображения, связанные с футболом. Эти изображения объективизируют и наносят насильственные повреждения глубоко фейковой персоне Свифт. Этот инцидент произошел после недавнего случая, когда сгенерированное ИИ видео с изображением Свифт, поддерживающей поддельную раздачу посуды, распространилось в сети.

Рост числа явных deepfake можно объяснить доступностью и простотой использования технологии в последние годы. В 2019 году компания DeepTrace Labs сообщила, что эти сфабрикованные изображения в основном направлены на женщин, включая голливудских актеров и южнокорейских певиц к-поп. Бриттани Спанос, старший писатель Rolling Stone, подчеркнула преданность поклонников Свифт, поддерживающих ее. Реакция Свифт на эту ситуацию может иметь серьезные последствия и привести к судебному разбирательству. Компания X, обратившись за комментарием к Associated Press, направила сообщение в аккаунте безопасности, подтверждающее строгий запрет на обмен изображениями обнаженной натуры без согласия. Однако компания сократила свои команды по модерации контента после того, как Элон Маск возглавил ее в 2022 году. Мета выразила осуждение за этот контент и заявила, что активно удаляет его. Представитель Свифта не дал немедленного ответа на этот вопрос. Исследователи считают, что изображения были созданы с помощью диффузионных моделей - типа генеративной модели искусственного интеллекта, которая создает фотореалистичные изображения на основе письменных подсказок. Компания Microsoft, разработавшая генератор изображений на основе DALL-E, заявила, что расследует возможные случаи злоупотребления. Различные законодатели подчеркивают необходимость более эффективной правовой защиты от порнографии deepfake, ссылаясь на инцидент со Свифтом как на доказательство необходимости принятия срочных мер.