"मानव असणे हीच एक गोष्ट आहे ज्यामुळे कोणीही बळी बनू शकतो, " असे वकील कॅरी गोल्डबर्ग म्हणतात, जी एआई युगातील डीपफेक अश्लीलतेच्या धोक्यांना संबोधित करत आहेत. रिव्हेंज पॉर्न, किंवा लैंगिक प्रतिमा अनधिकृतपणे शेअर करणे, इंटरनेटच्या सुरुवातीच्या काळापासून अस्तित्वात आहे. तथापि, एआई साधनांच्या वाढीमुळे कुणीही या त्रासाचा बळी बनू शकतो, अगदी नग्न फोटो काढला नसेल किंवा शेअर केला नसेल तरी. एआई तंत्रज्ञान आता कोणाच्या चेहऱ्यावर नग्न शरीरावर ठेवू शकते किंवा फोटो बदलून दर्शवू शकते की जणू तो व्यक्ती कपडे घातलेला नाही. गेल्या वर्षी, एआई-निर्मित अनधिकृत अश्लीलतेच्या बळींत टेलर स्विफ्ट आणि प्रतिनिधी अलेक्झांड्रिया ओकासियो-कोर्टेझ यांसारख्या प्रसिद्ध व्यक्ती, तसेच हायस्कूल विद्यार्थी समाविष्ट होते. कोणी जेव्हा शोधून काढते की त्यांना किंवा त्यांच्या मुलाला डीपफेक अश्लीलतेचा विषय बनवले गेले आहे, ती प्रक्रिया भयानक आणि ओढावे लागते, असे गोल्डबर्ग म्हणतात, ज्या न्यूयॉर्कमधील सी. ए. गोल्डबर्ग लॉ ह्या संस्थेचे नेतृत्व करतात, जी लिंग गुन्हे आणि ऑनलाइन उत्पीडन पीडितांना प्रतिनिधित्त्व देते. "हे विशेषतः तरुण लोकांसाठी खरे असते जे संघर्ष करताना आणि इंटरनेटला एक भयप्रद आणि अवास्तविक स्थळ मानू शकतात, " असे तिने म्हणाले. सुदैवाने, या त्रासाचे लक्ष्य बनलेल्या व्यक्तींना स्वतःला संरक्षित करण्यासाठी आणि साहाय्यासाठी स्रोत उपलब्ध आहेत, गोल्डबर्ग यांनी सीएनएनच्या नवीन तंत्रज्ञान पॉडकास्ट, टर्म्स ऑफ सर्व्हिस विथ क्लेअर डफीमध्ये दिलेल्या मुलाखतीत सामायिक केले. टर्म्स ऑफ सर्व्हिस लोकांनी दररोज सामना करणार्‍या नवीन तंत्रज्ञान स्पष्ट करण्याचे काम करते. (गोल्डबर्ग यांच्यासोबतचे संपूर्ण संभाषण येथे ऐका. ) गोल्डबर्ग यांनी सल्ला दिला की एआई-निर्मित लैंगिक प्रतिमा लक्ष्य बनल्यावर व्यक्तीचे पहिले पाऊल - ते तर्कविलक्षण वाटू शकते तरी - स्क्रीनशॉट घेणे असावे. "प्रवृत्ती ती तत्काळ इंटरनेटवरून हटविण्याची असते, " गोल्डबर्ग म्हणाली.

"परंतु, पुरावा जतन करणे तपासाचा पर्याय हवा असल्यास महत्वाचे आहे. " यानंतर, पीडित Google, Meta, आणि Snapchat यांच्या सारख्या प्लॅटफॉर्मद्वारे प्रतिमा हटविण्याची विनंती करणाऱ्या फॉर्मचा वापर करू शकतात. StopNCII. org आणि Take It Down सारख्या स्वयंसेवी संस्था देखील एकाच वेळी अनेक प्लॅटफॉर्मवरून प्रतिमा हटविण्यास मदत करू शकतात, जरी सर्व साइट सहकार्य करत नाहीत. ऑगस्टमध्ये, रिपब्लिकन आणि डेमोक्रॅटसारख्या वादी समूहाने जवळपास एक डझन तंत्रज्ञान कंपन्यांना, ज्यात X आणि Discord समाविष्ट आहेत, या कार्यक्रमांमध्ये सहभागी होण्यासाठी एक खुल्या पत्र लिहिले. अनधिकृत खाजगी प्रतिमा आणि डीपफेक्सेसह सामोरे जाण्यामुळे अकल्पनीय द्विपक्षीय सहमती मिळत आहे. AI-निर्मित अश्लीलतेद्वारे प्रभावित किशोरवयीन आणि त्यांचे पालक कॅपिटल हिल वर सुनावणीच्या वेळी साक्ष देताना, रिपब्लिकन सेनेटर टेड क्रूझ यांनी एक बिल मांडले, ज्याला डेमोक्रॅटिक सेनेटर एमी क्लोबुशर आणि इतरांनी समर्थन दिले, अशा प्रकाशनांना अपराधी ठरवण्याच्या आणि सामाजिक माध्यम प्लॅटफॉर्मवरून जाहीर केलेली सामग्री हटविण्याची सक्ती करणे. सध्या, पीडितांना वेगवेगळ्या राज्यांच्या कायद्यांच्या अधीन राहावे लागते. काही राज्यांमध्ये वयस्कांच्या अश्लील डीपफेक्स तयार करणे किंवा शेअर करणे विरोधात कायदे नाहीत, जरी AI-निर्मित लहान मुलांच्या प्रतिमा साधारणपणे बाल लैंगिक अत्याचार सामग्री कायद्यांतर्गत येतात. "उद्भवू शकणार्‍या गुन्हेगारांसाठी माझा सल्ला म्हणजे, विचित्रपणे कुणाच्या प्रतिमेचा अपमान करण्यासाठी ताकद वापरून विडंबन होऊ नका, " गोल्डबर्ग म्हणाली. "पीडितांना हे रोखण्यासाठी फारसे काही करता येत नाही. आपल्या डिजिटल समाजात, संपूर्ण सुरक्षा अप्राप्य आहे, परंतु आपणा सर्वांना इतरांचे योग्य रीतीने वागवणे आले पाहिजे. "