"Vse, kar je potrebno, je biti človek, da postaneš žrtev, " pravi odvetnica Carrie Goldberg, ko govori o nevarnostih globokih ponaredkov pornografije v dobi umetne inteligence. Maščevalna pornografija, ali nenamerno deljenje spolnih slik, obstaja že od zgodnjih dni interneta. Vendar vzpon umetne inteligence omogoča vsakomur, da postane tarča tega nadlegovanja, tudi brez narejenih ali deljenih golih fotografij. Tehnologija umetne inteligence lahko sedaj postavi obraz osebe na golo telo ali spremeni fotografije, da izgledajo kot da je oseba gola. V zadnjem letu so bile žrtve pornografije, generirane z umetno inteligenco, znane osebe kot so Taylor Swift in poslanka Alexandria Ocasio-Cortez, pa tudi srednješolci. Ko nekdo odkrije, da so sami ali njihov otrok predmet globokih ponaredkov pornografije, je izkušnja strašljiva in silovita, pravi Goldberg, ki vodi podjetje C. A. Goldberg Law, newyorško odvetniško pisarno, ki zastopa žrtve spolnih kaznivih dejanj in spletnega nadlegovanja. "To še posebej velja za mlade ljudi, ki se morda težko soočajo in najdejo internet kot zastrašujoč in nerazumljiv kraj, " je dejala. Na srečo obstajajo koraki, ki jih lahko posamezniki, tarče tega nadlegovanja, sprejmejo za svojo zaščito, in viri za pomoč, je Goldberg delila v intervjuju za novi tehnični podcast CNN, Terms of Service s Clare Duffy. Terms of Service si prizadeva pojasniti nastajajoče tehnologije, s katerimi se ljudje dnevno srečujejo. (Poslušajte celoten pogovor z Goldberg tukaj. ) Goldberg je svetovala, da naj prva poteza osebe, ki je tarča z umetno inteligenco generiranih spolnih slik — tudi če se zdi nelogična — bo, da naredi posnetke zaslona. "Inštinkt je, da jo nemudoma izbrišemo z interneta, " je dejala Goldberg.

"Toda ohranitev dokazov je ključna, če želite imeti možnost prijaviti to kot kaznivo dejanje. " Po tem lahko žrtve uporabijo obrazce, ki jih ponujajo platforme kot so Google, Meta in Snapchat, za odstranitev takšnih slik. Nevladne organizacije kot StopNCII. org in Take It Down lahko prav tako pomagajo odstraniti slike z več platform hkrati, čeprav ne sodelujejo vse spletne strani. Avgusta je dvostranska skupina senatorjev napisala odprto pismo, v katerem so pozvali skoraj ducat tehnoloških podjetij, vključno z X in Discord, da sodelujejo v teh programih. Obravnava nenamernih eksplicitnih slik in globokih ponaredkov je prinesla redko dvostransko soglasje. Najstniki in starši, ki so jih prizadele z umetno inteligenco generirane pornografije, so pričali na zaslišanju na Capitol Hillu, kjer je republikanski senator Ted Cruz predstavil zakon, podprt s strani demokratske senatorke Amy Klobuchar in drugih, da bi kriminaliziral takšne objave in zahteval, da socialne medijske platforme odstranijo prijavljeno vsebino. Trenutno se žrtve morajo spoprijeti z različnimi državnimi zakoni. Nekatere države nimajo zakonov proti ustvarjanju ali deljenju eksplicitnih globokih ponaredkov odraslih, čeprav umetna inteligenca ustvarjene slike otrok običajno spadajo pod zakone o otroški spolni zlorabi. "Moj nasvet potencialnim storilcem je preprosto, ne bodite moralno zavrženi s tem, da izkoriščate nekoga za ponižanje, " je dejala Goldberg. "Žrtve lahko storijo le malo, da to preprečijo. V naši digitalni družbi popolna varnost ni dosegljiva, vendar je na nas vseh, da druge obravnavamo dostojanstveno. "