"Stačí byť človekom, aby ste sa stali obeťou, " hovorí právnička Carrie Goldbergová o nebezpečenstvách deepfake porna v ére umelej inteligencie. Pomsta pornom, teda nekonsenzuálne zdieľanie sexuálnych obrázkov, existuje už od ranných dní internetu. No vzostup AI nástrojov umožňuje, aby sa ktokoľvek stal terčom tohto obťažovania, aj bez toho, aby niekedy zobrali alebo zdieľali nahú fotografiu. AI technológia teraz dokáže umiestniť tvár osoby na nahé telo alebo upraviť fotografie tak, aby to vyzeralo, že je niekto vyzlečený. Za posledný rok medzi obeťami AI generovaného nekonsenzuálneho porna boli známe osobnosti ako Taylor Swift a zastupiteľka Alexandria Ocasio-Cortez, ako aj študenti stredných škôl. Keď niekto zistí, že on alebo jeho dieťa sú predmetmi deepfake porna, je to desivá a ohromujúca skúsenosť, hovorí Goldbergová, ktorá vedie advokátsku kanceláriu C. A. Goldberg v New Yorku, reprezentujúcu obete sexuálnych zločinov a online obťažovania. "Toto je obzvlášť pravdivé pre mladých ľudí, ktorí sa môžu ťažko vyrovnať a nájsť internet ako zastrašujúce a nepredstaviteľné miesto, " povedala. Našťastie, existujú kroky, ktoré môžu jednotlivci zasiahnutí týmto obťažovaním podniknúť, aby sa ochránili, a zdroje pomoci, zdieľala Goldbergová v rozhovore pre nový technologický podcast CNN, Terms of Service s Clare Duffyovou. Terms of Service sa snaží objasniť nové technológie, s ktorými sa ľudia denne stretávajú. (Vypočujte si celý rozhovor s Goldbergovou tu. ) Goldbergová odporúčala, že prvým krokom osoby, ktorá sa stane cieľom AI generovaných sexuálnych obrázkov — aj keď sa to môže zdať protichodné — by malo byť robiť snímky obrazovky. "Instinkt je to okamžite vymazať z internetu, " povedala Goldbergová.

"Ale zachovanie dôkazov je rozhodujúce, ak chcete mať možnosť to nahlásiť trestne. " Potom môžu obete použiť formuláre poskytované platformami ako Google, Meta a Snapchat na požiadanie o odstránenie takýchto obrázkov. Neziskové organizácie ako StopNCII. org a Take It Down môžu tiež pomôcť odstrániť obrázky z viacerých platforiem súčasne, aj keď nie všetky stránky spolupracujú. V auguste dvojstranná skupina senátorov napísala otvorený list, v ktorom vyzvala takmer tucet technologických spoločností, vrátane X a Discord, aby sa zúčastnili týchto programov. Riešenie nekonsenzuálnych explicitných obrázkov a deepfakeov získalo nezvyčajnú dvojstrannú podporu. Tínedžeri a rodičia ovplyvnení AI generovaným pornom svedčili na vypočutí na Capitol Hill, kde republikánsky senátor Ted Cruz predstavil návrh zákona, podporovaný demokratickou senátorkou Amy Klobucharovou a ďalšími, ktorým by sa kriminalizovala takáto publikácia a povinnosť sociálnych mediálnych platforiem odstrániť hlásený obsah. V súčasnosti musí obete prekonať rozdielne štátne zákony. Niektoré štáty nemajú zákony proti tvorbe alebo zdieľaniu explicitných deepfakeov dospelých, aj keď AI generované obrázky detí zvyčajne spadajú pod zákony o sexuálnom zneužívaní detí. "Moja rada potenciálnym páchateľom je jednoducho, aby neboli morálne odporní tým, že vykořisťujú niekoho obraz pre ponižovanie, " povedala Goldbergová. "Obete môžu urobiť málo na to, aby to zabránili. V našej digitálnej spoločnosti je úplná bezpečnosť nedosiahnuteľná, ale záleží na nás všetkých, aby sme sa k iným správali slušne. "