"Semua orang bisa menjadi korban hanya dengan menjadi manusia, " kata pengacara Carrie Goldberg, menyoroti bahaya pornografi deepfake di era AI. Pornografi balas dendam, atau penyebaran gambar seksual tanpa persetujuan, telah ada sejak awal internet. Namun, kemunculan alat AI memungkinkan siapa saja menjadi target pelecehan ini, bahkan tanpa pernah mengambil atau berbagi foto telanjang. Teknologi AI kini dapat menempatkan wajah seseorang pada tubuh telanjang atau mengubah foto agar tampak seolah-olah seseorang tidak berpakaian. Dalam setahun terakhir, korban pornografi nonkonsensual yang dihasilkan AI mencakup tokoh terkenal seperti Taylor Swift dan Anggota Kongres Alexandria Ocasio-Cortez, serta siswa sekolah menengah. Ketika seseorang menemukan bahwa mereka atau anak mereka menjadi subjek deepfake pornografi, pengalaman tersebut sangat mengerikan dan luar biasa, kata Goldberg, yang memimpin C. A. Goldberg Law, sebuah firma hukum di New York yang mewakili korban kejahatan seksual dan pelecehan online. "Ini terutama berlaku untuk kaum muda yang mungkin kesulitan mengatasi dan menemukan internet sebagai tempat yang menakutkan dan tidak terbayangkan, " katanya. Untungnya, ada langkah-langkah yang bisa diambil individu yang menjadi target pelecehan ini untuk melindungi diri, dan ada sumber bantuan, ungkap Goldberg dalam wawancara di podcast teknologi baru CNN, Terms of Service with Clare Duffy. Terms of Service bertujuan untuk menjelaskan teknologi-teknologi baru yang dihadapi orang setiap hari. (Dengarkan percakapan lengkap dengan Goldberg di sini. ) Goldberg menyarankan bahwa langkah pertama yang harus dilakukan seseorang ketika menjadi target gambar seksual yang dihasilkan AI — meskipun tampak berlawanan dengan intuisi — adalah mengambil screenshot. "Intuisi mungkin menghapusnya dari internet segera, " kata Goldberg.

"Namun, menyimpan bukti sangat penting jika ingin melaporkannya secara kriminal. " Setelah itu, korban dapat menggunakan formulir yang disediakan oleh platform seperti Google, Meta, dan Snapchat untuk meminta penghapusan gambar tersebut. Organisasi non-profit seperti StopNCII. org dan Take It Down juga dapat membantu menghapus gambar dari beberapa platform secara bersamaan, meskipun tidak semua situs bekerja sama. Pada bulan Agustus, sekelompok senator dari dua partai menulis surat terbuka mendesak hampir selusin perusahaan teknologi, termasuk X dan Discord, untuk berpartisipasi dalam program-program ini. Menanggapi gambar eksplisit nonkonsensual dan deepfake telah mendapatkan kesepakatan bipartisan yang jarang terjadi. Remaja dan orang tua yang terkena dampak pornografi yang dihasilkan AI bersaksi di sidang Capitol Hill, di mana Senator Republik Ted Cruz memperkenalkan RUU, didukung oleh Senator Demokrat Amy Klobuchar dan lainnya, untuk mengkriminalisasi publikasi semacam itu dan mewajibkan platform media sosial untuk menghapus konten yang dilaporkan. Saat ini, korban harus menavigasi berbagai hukum negara bagian. Beberapa negara bagian tidak memiliki hukum yang melarang pembuatan atau penyebaran deepfake eksplisit untuk orang dewasa, meskipun gambar yang dihasilkan AI dari anak-anak biasanya termasuk dalam hukum materi pelecehan seksual anak. "Saran saya untuk calon pelaku sederhana, jangan menjadi orang yang tidak bermoral dengan mengeksploitasi gambar seseorang untuk penghinaan, " kata Goldberg. "Sedikit yang bisa dilakukan korban untuk mencegah hal ini. Dalam masyarakat digital kita, keselamatan sepenuhnya tidak dapat dicapai, tetapi itu tergantung pada kita semua untuk memperlakukan orang lain dengan baik. "