"Het enige dat nodig is, is menselijk zijn om slachtoffer te worden, " zegt advocaat Carrie Goldberg, die wijst op de gevaren van deepfake pornografie in het AI-tijdperk. Wraakporno, of het zonder toestemming delen van seksuele beelden, bestaat al sinds de begindagen van het internet. Maar door de opkomst van AI-tools kan nu iedereen het doelwit worden van deze intimidatie, zelfs zonder ooit een naaktfoto te hebben gemaakt of gedeeld. AI-technologie kan iemands gezicht op een naakt lichaam plaatsen of foto's zo bewerken dat het lijkt alsof iemand ongekleed is. In het afgelopen jaar zijn slachtoffers van door AI-gegenereerde niet-consensuele porno onder andere bekende figuren zoals Taylor Swift en congreslid Alexandria Ocasio-Cortez, evenals middelbare scholieren. Wanneer iemand ontdekt dat zijzelf of hun kind het onderwerp van deepfake pornografie is, is de ervaring angstaanjagend en overweldigend, zegt Goldberg, die leiding geeft aan C. A. Goldberg Law, een advocatenkantoor in New York dat slachtoffers van seksuele misdrijven en online intimidatie vertegenwoordigt. "Dit geldt vooral voor jongeren die moeite kunnen hebben om ermee om te gaan en het internet een intimiderende en onbegrijpelijke plek vinden, " zei ze. Gelukkig zijn er stappen die individuen die doelwit zijn van deze intimidatie kunnen nemen om zichzelf te beschermen en bronnen voor hulp, deelde Goldberg in een interview op CNN's nieuwe tech-podcast, Terms of Service met Clare Duffy. Terms of Service probeert opkomende technologieën waar mensen dagelijks mee te maken hebben te verduidelijken. (Luister hier naar het volledige gesprek met Goldberg. ) Goldberg adviseerde dat de eerste stap die iemand moet nemen wanneer hij/zij het slachtoffer wordt van door AI-gegenereerde seksuele beelden — ook al lijkt het tegenintuïtief — is om screenshots te maken. "De instinctmatige reactie is om het meteen van het internet te verwijderen, " zei Goldberg.

"Maar het bewaren van bewijs is cruciaal als je de mogelijkheid wilt openhouden om het strafrechtelijk te melden. " Daarna kunnen slachtoffers formulieren gebruiken die bijvoorbeeld door Google, Meta en Snapchat worden aangeboden om het verwijderen van dergelijke afbeeldingen aan te vragen. Non-profitorganisaties zoals StopNCII. org en Take It Down kunnen ook helpen om afbeeldingen van meerdere platforms tegelijk te verwijderen, hoewel niet alle sites meewerken. In augustus schreef een bipartisane groep senatoren een open brief waarin ze bijna een dozijn technologiebedrijven, waaronder X en Discord, opriepen om deel te nemen aan deze programma's. Het aanpakken van niet-consensuele expliciete beelden en deepfakes heeft ongewoon bipartisane instemming gekregen. Tieners en ouders die door AI-gegenereerde porno zijn getroffen, getuigden tijdens een hoorzitting op Capitol Hill, waar Republikeinse senator Ted Cruz een wetsvoorstel introduceerde, gesteund door Democratische senator Amy Klobuchar en anderen, om dergelijke publicaties strafbaar te stellen en om socialemediaplatforms te verplichten gemelde inhoud te verwijderen. Op dit moment moeten slachtoffers hun weg vinden door verschillende staatswetten. Sommige staten hebben geen wetten tegen het creëren of delen van expliciete deepfakes van volwassenen, hoewel door AI-gegenereerde beelden van kinderen meestal onder wetgeving voor kinderpornografie vallen. "Mijn advies voor potentiële overtreders is simpelweg: wees niet moreel verwerpelijk door iemands afbeelding te exploiteren voor vernedering, " zei Goldberg. "Er is weinig dat slachtoffers kunnen doen om dit te voorkomen. In onze digitale samenleving is volledige veiligheid onbereikbaar, maar het is aan ons allemaal om anderen fatsoenlijk te behandelen. "