"Qualquer pessoa pode se tornar vítima por ser humana", diz a advogada Carrie Goldberg, alertando sobre os perigos do pornô deepfake na era da IA. Pornô de vingança, ou compartilhamento não consensual de imagens sexuais, existe desde os primeiros dias da internet. No entanto, o avanço das ferramentas de IA torna possível que qualquer um se torne alvo desse assédio, mesmo sem ter tirado ou compartilhado uma foto nua. A tecnologia de IA agora pode colocar o rosto de uma pessoa em um corpo nu ou alterar fotos para parecer que alguém está sem roupa. No último ano, vítimas de pornografia não consensual gerada por IA incluíram figuras conhecidas como Taylor Swift e a deputada Alexandria Ocasio-Cortez, além de estudantes do ensino médio. Quando alguém descobre que ela ou seu filho é alvo de pornô deepfake, a experiência é horrível e esmagadora, diz Goldberg, que lidera o C. A. Goldberg Law, um escritório em Nova York que representa vítimas de crimes sexuais e assédio online. "Isso é especialmente verdadeiro para os jovens, que podem ter dificuldade para lidar e ver a internet como um lugar intimidador e incompreensível", disse ela. Felizmente, há medidas que os indivíduos visados por esse assédio podem tomar para se proteger, e fontes de assistência, compartilhou Goldberg em uma entrevista no novo podcast de tecnologia da CNN, "Terms of Service with Clare Duffy. " Terms of Service busca esclarecer as tecnologias emergentes que as pessoas enfrentam diariamente. (Ouça a conversa completa com Goldberg aqui. ) Goldberg aconselhou que o primeiro passo de uma pessoa quando visada por imagens sexuais geradas por IA — mesmo que pareça contraintuitivo — deve ser tirar capturas de tela. "O instinto é apagar da internet imediatamente", disse Goldberg.

"Mas preservar provas é crucial se você quiser a opção de denunciá-lo criminalmente. " Em seguida, as vítimas podem usar formulários fornecidos por plataformas como Google, Meta e Snapchat para solicitar a remoção dessas imagens. ONGs como StopNCII. org e Take It Down também podem ajudar a remover imagens de várias plataformas simultaneamente, embora nem todos os sites cooperem. Em agosto, um grupo bipartidário de senadores escreveu uma carta aberta instando cerca de uma dúzia de empresas de tecnologia, incluindo X e Discord, a participarem desses programas. Abordar imagens explícitas não consensuais e deepfakes conquistou um raro acordo bipartidário. Adolescentes e pais impactados por pornô gerado por IA testemunharam em uma audiência no Capitólio, onde o senador republicano Ted Cruz apresentou um projeto de lei, apoiado pela senadora democrata Amy Klobuchar e outros, para criminalizar tais publicações e obrigar as plataformas de mídia social a remover o conteúdo denunciado. Atualmente, as vítimas devem navegar por diferentes leis estaduais. Alguns estados não têm leis contra a criação ou compartilhamento de deepfakes explícitos de adultos, embora imagens geradas por IA de crianças geralmente sejam cobertas por leis de abuso sexual infantil. "Meu conselho para potenciais agressores é simplesmente, não seja moralmente repreensível ao explorar a imagem de alguém para humilhação", disse Goldberg. "Há pouco que as vítimas possam fazer para prevenir isso. Em nossa sociedade digital, segurança completa é inatingível, mas cabe a todos nós tratar os outros decentemente. "