हेग — बाल लैंगिक शोषण सामग्रीशी संबंधित आर्टिफिशियल इंटेलिजन्सद्वारे तयार केलेल्या सामग्रीच्या जागतिक उपक्रमामुळे २५ पेक्षा जास्त अरेस्ट झाले आहेत, असे युरोपोलने शुक्रवारी रिपोर्ट केले. "ऑपरेशन कंबरलंड" हा AI-निर्मित बाल लैंगिक शोषण सामग्रीसाठीचा एक प्रारंभिक प्रकरणांपैकी एक आहे, ज्यामुळे या गुन्ह्यांचा सामना करणाऱ्या अन्वेषकांसाठी मोठे आव्हान होते कारण या गुन्ह्यांसाठी राष्ट्रीय कायद्याची अनुपस्थिती आहे, " असे युरोपीय पोलिस एजन्सीने म्हटले. अधिकांश अरेस्ट बुधवारी डॅनिश पोलिसांनी पुढाकार घेतलेल्या जागतिक ऑपरेशनदरम्यान झाले, ज्यामध्ये EU, ऑस्ट्रेलिया, ब्रिटन, कॅनडा आणि न्यूझीलंडच्या कायदा अंमलबजावणीचा समावेश होता. युरोपोलने म्हटले की, यूएसच्या कायदा अंमलबजावणी संस्थांनी या ऑपरेशनमध्ये भाग घेतला नाही. हा उपक्रम गेल्या नोव्हेंबरमध्ये मुख्य संशयित, एक डॅनिश नागरिक, जो AI-निर्मित सामग्री वितरित करण्यासाठी एक ऑनलाइन प्लॅटफॉर्म चालवत होता, त्याच्या अरेस्टनंतर सुरू झाला. "एक प्रतीकात्मक ऑनलाइन पेमेंट" च्या सहाय्याने, जगभरातील वापरकर्त्यांना प्लॅटफॉर्ममध्ये प्रवेश मिळवण्यासाठी पासवर्ड प्राप्त झाला आणि बालकांच्या शोषणाच्या उदाहरणांना पाहणे शक्य झाले, असे युरोपोलने सांगितले. युरोपोलने असा इशारा दिला की ऑनलाइन बाल लैंगिक शोषण हे युरोपियन युनियनमधील सायबर क्राइममधील सर्वात चिंताजनक प्रकार आहे. कायदा अंमलबजावणी संस्थांसाठी हे एक सर्वोच्च प्राथमिकता आहे, जे हवेहवेसे अवैध सामग्रीच्या वाढत्या प्रमाणाचा सामना करीत आहेत, आणि तपास सुरू असल्याने अतिरिक्त अरेस्टची अपेक्षा आहे. युरोपोलने सांगितले की ऑपरेशन कंबरलंडने पूर्णपणे AI वापरून तयार केलेल्या सामग्रीवर आणि त्या सामग्री सामायिक करणाऱ्या व्यक्तींवर लक्ष केंद्रित केले, तर ऑनलाइन "दीपफेक" प्रतिमा यामध्ये चिंता वाढत आहे, ज्यामध्ये खऱ्या व्यक्तींच्या, त्यातले बालकांच्या, प्रतिमा असतात, ज्यामुळे त्यांच्या जीवनावर गंभीर परिणाम होऊ शकतात. डिसेंबरमध्ये जिम अॅक्सलरॉडच्या CBS न्यूज रिपोर्टने एका मुलीच्या गोष्टीवर प्रकाश टाकला, ज्याला वर्गमित्राने शोषण करण्याचा टार्गेट बनवला, असे उल्लेख केले की 2023 मध्ये ऑनलाइन 21, 000 हून अधिक दीपफेक अश्लील प्रतिमा किंवा व्हिडिओ आहेत, जे मागील वर्षाच्या तुलनेत 460% वाढ दर्शवितात. हे बदललेले सामग्री इंटरनेटवर वाढली आहे कारण यूएस आणि अन्य देशांमध्ये कायदेकारक नवीन कायदा विकसित करण्याचा प्रयत्न करत आहेत. अलीकडे, Senate ने "TAKE IT DOWN Act" म्हणून ओळखल्या जाणार्‍या द्विप नेत्याच्या विधेयकाला मंजुरी दिली, ज्यामुळे, जर लागू झाले, तर नॉन-कन्सेन्टुअल इंटिमेट इमेजरी (NCII) प्रकाशित करणे बेकायदेशीर ठरवले जाईल, ज्यात AI-निर्मित NCII (किंवा "दीपफेक रिवेंज पोर्नोग्राफी") समाविष्ट आहे.

तसेच, अशा सामग्री हटवण्यासाठी सामाजिक मीडिया आणि अशाच प्लॅटफॉर्मसाठी 48 तासांच्या आत पीडिताकडून नोटिस प्राप्त झाल्यानंतर प्रक्रियेची स्थापना करणे आवश्यक आहे. सध्या, काही सामाजिक मीडिया प्लॅटफॉर्म लैंगिक, AI-निर्मित दीपफेक सामग्रीच्या प्रसाराला प्रभावीपणे उत्तर देण्यासाठी असमर्थ किंवा अनिच्छुक दिसत आहेत, ज्यामध्ये प्रसिद्ध लोकांच्या बनावट प्रतिमा समाविष्ट आहेत. फेब्रुवारीच्या मध्यात, फेसबुक आणि इंस्टाग्रामची मातृसंस्था मेटाने एक CBS न्यूज अन्वेषणानंतर प्रसिद्ध महिला अभिनेत्या आणि क्रीडापटूंना संबंधीत विशेष बनावट प्रतिमा काढून टाकले आहेत. "हे एक उद्योगव्यापी आव्हान आहे, आणि आम्ही आमच्या शोध आणि अंमलबजावणी तंत्रज्ञानाचे सुधारणा करण्यासाठी सतत काम करत आहोत, " असे मेटाच्या प्रवक्त्या एरिन लोगोने त्या वेळेस CBS न्यूजला पाठवलेल्या ई-मेल स्टेटमेंटमध्ये सांगितले.