"İnsan olmak mağdur durumuna düşmek için yeterli, " diyor avukat Carrie Goldberg, AI çağında deepfake pornoların tehlikelerini ele alırken. İntikam pornosu veya cinsel imgelerin izinsiz paylaşımı, internetin ilk günlerinden beri var. Ancak, AI araçlarının yükselişi, çıplak bir fotoğraf çekmemiş veya paylaşmamış olsalar bile, herkesin bu tür bir tacizin hedefi olmasını mümkün kılıyor. AI teknolojisi, bir kişinin yüzünü çıplak bir vücuda yerleştirebilir veya fotoğrafları kişinin çıplak görünmesi için değiştirebilir. Geçtiğimiz yıl, AI tarafından üretilen izinsiz porno mağdurları arasında Taylor Swift, Temsilci Alexandria Ocasio-Cortez gibi tanınmış kişiler ve lise öğrencileri yer aldı. Kendileri veya çocuklarının deepfake pornoların konusu olduğunu keşfettiklerinde, deneyimin dehşet verici ve bunaltıcı olduğunu söylüyor Goldberg, New York'ta cinsel suçlar ve çevrimiçi taciz mağdurlarını temsil eden C. A. Goldberg Hukuk'u yönetiyor. "Bu özellikle, interneti korkutucu ve anlaşılmaz bir yer bulan gençler için geçerli, " dedi. Neyse ki, bu tacizin hedefi olan kişilerin kendilerini koruyabilmeleri için atabilecekleri adımlar ve yardım kaynakları mevcut, diyor Goldberg, CNN'in yeni teknoloji podcast'i Terms of Service with Clare Duffy'de bir röportajda. Terms of Service, insanların günlük karşılaştıkları yeni teknolojileri açıklamayı amaçlıyor. (Goldberg ile yapılan tam konuşmayı buradan dinleyin. ) Goldberg, AI tarafından üretilmiş cinsel görüntülerin hedefi olan bir kişinin ilk adımının —ters gelebilir olsa da— ekran görüntülerini almak olması gerektiğini tavsiye etti. "İlk içgüdü, onu internetten hemen silmek, " dedi Goldberg.

"Ama kanıtları korumak, bunu suç olarak bildirmek istiyorsanız hayati önemdedir. " Bunun ardından, mağdurlar, Google, Meta ve Snapchat gibi platformların sunduğu formları kullanarak bu tür görüntülerin kaldırılmasını talep edebilirler. StopNCII. org ve Take It Down gibi sivil toplum kuruluşları, görüntülerin aynı anda birden fazla platformdan kaldırılmasına yardımcı olabilir, ancak tüm siteler işbirliği yapmıyor. Ağustos ayında, çift partili bir senatör grubu X ve Discord dahil neredeyse on teknoloji şirketini bu programlara katılmaya çağırdı. İzinsiz açık görüntüler ve deepfake'lerle mücadelede nadir görülen bir çift partili uzlaşma sağlandı. Yapay zeka tarafından üretilmiş pornodan etkilenen gençler ve ebeveynleri, Capitol Hill'de bir duruşmada ifade verdi ve Cumhuriyetçi Senatör Ted Cruz, Demokrat Senatör Amy Klobuchar ve diğerleri tarafından desteklenen bir yasa tasarısı sundu, bu tür yayınları suç haline getirmek ve sosyal medya platformlarının bildirilen içeriği kaldırmasını zorunlu kılmak için. Şu anda mağdurlar, farklı eyalet yasaları arasında yol almak zorunda. Bazı eyaletlerde, yetişkinlerin açık deepfake'lerinin yaratılması veya paylaşılmasıyla ilgili yasalar yok, ancak yapay zeka tarafından üretilmiş çocuk görüntüleri genellikle çocuk cinsel istismarı materyali yasalarına giriyor. "Potansiyel suçlulara tavsiyem basit, birinin imgesini aşağılamak için kullanarak ahlaksız olmayın, " dedi Goldberg. "Mağdurların bunu önlemek için yapabilecekleri çok az şey var. Dijital toplumumuzda, tam güvenlik ulaşılamaz bir hedef ama başkalarına saygılı davranmak bizim elimizde. "