«Достаточно быть человеком, чтобы стать жертвой», — говорит адвокат Кэрри Голдберг, обращая внимание на опасности дипфейк-порнографии в эпоху ИИ. Ревендж порн, или несанкционированное распространение интимных изображений, существует с ранних лет интернета. Однако с развитием инструментов ИИ любой может стать целью такого преследования, даже не делая и не распространяя свои откровенные фото. Технология ИИ теперь может наложить лицо человека на обнаженное тело или изменить фотографии так, чтобы казалось, будто кто-то раздет. За прошедший год жертвами сгенерированной ИИ без разрешения порнографии стали такие известные фигуры, как Тейлор Свифт и представительница Конгресса Александрия Окасио-Кортес, а также ученики старших классов. Когда кто-то обнаруживает, что он или его ребенок стали объектом дипфейк-порнографии, это вызывает ужас и подавленность, говорит Голдберг, которая возглавляет юридическую фирму C. A. Goldberg Law в Нью-Йорке, представляющую жертв сексуальных преступлений и онлайн-издевательств. «Это особенно касается молодежи, которая может испытывать трудности в том, чтобы справиться и найти интернет пугающим и непостижимым местом», — сказала она. К счастью, существуют шаги, которые могут предпринять пострадавшие для защиты себя, и источники для получения помощи, поделилась Голдберг в интервью для нового техноподкаста CNN «Сроки службы» с Клэр Даффи. «Сроки службы» стремится прояснить развивающиеся технологии, с которыми люди сталкиваются ежедневно. (Послушать полное интервью с Голдберг можно здесь. ) Голдберг посоветовала, что первым шагом для человека, ставшего целью ИИ-сгенерированных сексуальных изображений, — даже если это кажется нелогичным — должно быть создание скриншотов. «Инстинкт подсказывает немедленно удалить это из интернета», — сказала Голдберг.

«Но сохранение доказательств крайне важно, если вы хотите иметь возможность сообщить об этом в полицию». После этого жертвы могут использовать формы, предоставляемые такими платформами, как Google, Meta и Snapchat, для запроса удаления таких изображений. НКО, такие как StopNCII. org и Take It Down, также могут помочь удалить изображения с нескольких платформ одновременно, хотя не все сайты сотрудничают. В августе двупартийная группа сенаторов написала открытое письмо, призывающее почти дюжину технологических компаний, включая X и Discord, участвовать в этих программах. Решение проблемы несанкционированных откровенных изображений и дипфейков вызвало необычное двустороннее согласие. Подростки и родители, пострадавшие от ИИ-сгенерированной порнографии, давали показания на слушаниях на Капитолийском холме, где сенатор-республиканец Тед Круз представил законопроект при поддержке сенатора-демократа Эми Клобучар и других, который криминализирует такие публикации и обязывает социальные сети удалять заявленный контент. В настоящее время жертвы должны маневрировать сквозь различные законы штатов. В некоторых штатах законы против создания или распространения откровенных дипфейков взрослых отсутствуют, хотя ИИ-сгенерированные изображения детей обычно подпадают под законы о материалах сексуального насилия над детьми. «Мой совет потенциальным преступникам прост: не будьте морально отвратительными, эксплуатируя чье-то изображение для унижения», — сказала Голдберг. «Жертвы могут сделать немного, чтобы предотвратить это. В нашем цифровом обществе полная безопасность недосягаема, но всем нам следует относиться друг к другу порядочно».