"Alt som trengs er å være menneske for å bli et offer, " sier advokat Carrie Goldberg, som tar opp farene ved deepfake-porno i AI-æraen. Hevnporno, eller ikke-samtykkebasert deling av seksuelle bilder, har eksistert siden internettets tidlige dager. Men fremveksten av AI-verktøy gjør det mulig for hvem som helst å bli et mål for denne trakasseringen, selv uten å ha tatt eller delt et nakenfoto. AI-teknologi kan nå plassere en persons ansikt på en naken kropp eller endre bilder slik at det ser ut som om noen er nakne. I løpet av det siste året har ofre for AI-generert ikke-samtykkebasert porno inkludert kjente personer som Taylor Swift og representant Alexandria Ocasio-Cortez, samt elever på videregående skole. Når noen oppdager at de eller deres barn er gjenstand for deepfake-porno, er opplevelsen skremmende og overveldende, sier Goldberg, som leder C. A. Goldberg Law, et firma i New York som representerer ofre for seksuelle forbrytelser og netttrakassering. "Dette gjelder spesielt unge mennesker som kan ha vanskeligheter med å takle og finne internett til et skremmende og ufattelig sted, " sa hun. Heldigvis finnes det skritt enkeltpersoner som blir utsatt for denne trakasseringen kan ta for å beskytte seg selv, og kilder til hjelp, delte Goldberg i et intervju på CNNs nye teknologipodcast, Terms of Service med Clare Duffy. Terms of Service søker å klargjøre de nye teknologiene folk møter daglig. (Lytt til hele samtalen med Goldberg her. ) Goldberg rådet at en persons første skritt når de blir målrettet av AI-genererte seksuelle bilder — selv om det kan virke motstridende — bør være å ta skjermbilder. "Innstinktet er å fjerne det fra internett umiddelbart, " sa Goldberg.

"Men å bevare bevis er avgjørende hvis du vil ha muligheten til å rapportere det kriminelt. " Deretter kan ofre bruke skjemaer fra plattformer som Google, Meta og Snapchat for å be om fjerning av slike bilder. Ideelle organisasjoner som StopNCII. org og Take It Down kan også hjelpe med å fjerne bilder fra flere plattformer samtidig, selv om ikke alle nettsteder samarbeider. I august skrev en tosidig gruppe senatorer et åpent brev der de oppfordret nesten et dusin teknologiselskaper, inkludert X og Discord, til å delta i disse programmene. Å ta opp ikke-samtykkebaserte eksplisitte bilder og deepfakes har fått uvanlig tverrpolitisk enighet. Tenåringer og foreldre påvirket av AI-generert porno vitnet på en høring på Capitol Hill, der den republikanske senatoren Ted Cruz introduserte et lovforslag, med støtte fra den demokratiske senatoren Amy Klobuchar og andre, for å kriminalisere slike publikasjoner og pålegge sosiale medieplattformer å fjerne rapportert innhold. For tiden må ofre navigere forskjellige statlige lover. Noen stater mangler lover mot å lage eller dele eksplisitte deepfakes av voksne, selv om AI-genererte bilder av barn vanligvis faller under lovene for seksuelt misbruk av barn. "Mitt råd til potensielle lovbrytere er enkelt, ikke vær moralsk avskyelig ved å utnytte noens bilde for ydmykelse, " sa Goldberg. "Det er lite ofre kan gjøre for å forhindre dette. I vårt digitale samfunn er fullstendig sikkerhet uoppnåelig, men det er opp til oss alle å behandle andre anstendig. "