"Elég, ha valaki ember, hogy áldozattá váljon" – mondja Carrie Goldberg ügyvéd, aki az AI-korszakban a deepfake pornó veszélyeire hívja fel a figyelmet. A bosszúpornó, vagyis a szexuális képek beleegyezés nélküli megosztása az internet korai napjaitól létezik. Azonban az AI-eszközök terjedése miatt bárki célpontjává válhat ennek a zaklatásnak, akár anélkül is, hogy valaha meztelen fotót készített vagy megosztott volna. Az AI-technológia ma már képes egy személy arcát meztelen testre helyezni, vagy átalakítani a fotókat, mintha valaki ruhátlan lenne. Az elmúlt évben az AI által generált beleegyezés nélküli pornó áldozatai közé ismert személyiségek is tartoztak, mint például Taylor Swift és Alexandria Ocasio-Cortez képviselő, valamint középiskolás diákok. Amikor valaki rájön, hogy ő vagy gyermeke deepfake pornó áldozatává vált, az élmény rémületes és elsöprő – mondja Goldberg, aki a C. A. Goldberg Law vezetője, egy New York-i ügyvédi iroda, amely szexuális bűncselekmények és online zaklatás áldozatait képviseli. "Ez különösen igaz a fiatalokra, akik nehezen tudják kezelni a helyzetet, és az internetet félelmetes és felfoghatatlan helynek látják" – tette hozzá. Szerencsére vannak lépések, amelyeket az ilyen zaklatás célpontjává vált egyének megtehetnek maguk védelmére, és források is rendelkezésre állnak segítségnyújtás céljából – osztotta meg Goldberg a CNN új technológiai podcastjában, a Clare Duffy által vezetett Terms of Service-ben adott interjújában. A Terms of Service célja, hogy tisztázza a mindennapokban megjelenő új technológiákat. (Hallgassa meg itt Goldberg teljes beszélgetését. ) Goldberg azt tanácsolta, hogy az első lépés, amikor valakit AI által generált szexuális képpel céloznak meg – még ha ez ellentmondásosnak is tűnik –, az, hogy készítsünk képernyőképeket. "A megérzés az, hogy azonnal töröljük az internetről" – mondta Goldberg.

"De a bizonyítékok megőrzése kulcsfontosságú, ha bűnügyként akarjuk jelenteni. " Ezt követően az áldozatok használhatják a Google, a Meta és a Snapchat által biztosított űrlapokat az ilyen képek eltávolításának kérésére. Az olyan nonprofit szervezetek, mint a StopNCII. org és a Take It Down, szintén segíthetnek a képek több platformról való eltávolításában, bár nem minden oldal működik együtt. Augusztusban egy kétpárti szenátori csoport nyílt levelet írt csaknem egy tucat tech cégnek, köztük az X-nek és a Discordnak, hogy vegyenek részt ezekben a programokban. A beleegyezés nélküli explicit képek és a deepfake-ek kezelése példa nélkül álló kétpárti egyetértést váltott ki. Tizenévesek és szülők, akiket AI-generálta pornó érintett, tanúskodtak egy Capitol Hill-i meghallgatáson, ahol Ted Cruz republikánus szenátor bemutatott egy törvényjavaslatot, amelyet Amy Klobuchar demokrata szenátor és mások is támogattak, hogy kriminalizálják az ilyen publikációkat, és kötelezzék a közösségi médiaplatformokat a bejelentett tartalom eltávolítására. Jelenleg az áldozatoknak változó állami törvényeket kell navigálniuk. Néhány államban hiányoznak a törvények a felnőttek explicit deepfake-jeinek készítése vagy megosztása ellen, noha az AI-generált gyermek képek általában gyermek szexuális bántalmazás anyagának minősülnek. "Az én tanácsom a lehetséges elkövetők számára egyszerű: ne legyünk erkölcstelenek azzal, hogy valakinek a képét kihasználjuk megalázás céljából" – mondta Goldberg. "Kevés dolog van, amit az áldozatok tehetnek ennek megelőzése érdekében. A digitális társadalmunkban a teljes biztonság elérhetetlen, de rajtunk múlik, hogy emberségesen bánjunk másokkal. "