पब्लिक सिटीझन, सार्वजनिक हितांचे रक्षण करण्यासाठी समर्पित एक प्रमुख देखरेखी करणारा संस्था, ने तातडीने OpenAI ला त्याच्या AI-सक्षम व्हिडिओ ऍप Sora 2 ला मागीलकरण्याची विनंती केली आहे, कारण खोलफेक तंत्रज्ञानमुळे गंभीर धोके निर्माण होऊ शकतात. समूहाने लोकशाही, वैयक्तिक हक्क, आणि सार्वजनिक सुरक्षेच्या धोके दर्शवले असून सोशल मीडियावर वास्तवता भोवला जाणा-या अफवांप्रमाणे AI-निर्मित व्हिडिओंमुळे वाढत असलेल्या चिंतेचे लक्ष वेधले आहे. पब्लिक सिटीझनचे म्हणणे आहे की, OpenAI ने Sora 2 चा अति वेगाने अनावरण करणे मुख्यतः AI क्षेत्रात स्पर्धात्मक दबावांमुळे झाले, ज्यामुळे सार्वजनिक सुरक्षेसाठी आवश्यक सुरक्षा उपायांची पूर्तता होऊ शकली नाही. परिणामी, Sora 2 मुळे अनैच्छिक खोलफेक व्हिडिओंची निर्मिती व प्रसार मोठ्या प्रमाणावर झाली, ज्यात भयानक सामग्री वापरून महिलांना त्रास देण्याचा, घटना बनवण्याचा प्रयत्न केला गेला, ज्यामुळे वागण्यात आणि प्रतिमेत हानी झाली. ह्या ऍप्लिकेशनमुळे वापरकर्त्यांना AI-चालित व्हिडिओ क्लिप तयार करण्याची सुविधा आहे, आणि हे त्वरित TikTok आणि Instagram सारख्या प्लॅटफॉर्मवर लोकप्रिय झाले आहे. त्यामध्ये अतिशयोक्तিপूर्ण, वेडे, सेलिब्रिटींच्या भ्रामक भूमिका असलेले व्हिडिओ असतात, तसेच खरे पण दिशाभूल करणारे दृष्य देखील असते, जे सार्वजनिक धारणा विकृतीकडे घेऊन जाऊ शकते. पब्लीक सिटीझन यावर भर देते की, या तंत्रज्ञानाची विश्वासार्ह पण खोटी सामग्री तयार करण्याची क्षमता गंभीर धोके निर्माण करते, विशेषतः जेव्हा ही व्हिडिओ संदर्भ किंवा पडताळणीशिवाय पसरतात. OpenAI ने काही चिंता सोडवण्याचा प्रयत्न केला आहे — जसे की, मार्टिन ल्यूथर किंग ज्या व्यक्तींच्या प्रतिमा ब्लॉक करणे, आणि SAG-AFTRA सारख्या उद्योग संघटनांशी संवाद साधणे — परंतु टीकाकार यांना प्रतिसाद म्हणून पाहतात, प्रात्यक्षिक rather न होऊन, ही कोशिश प्रतिक्रिया म्हणून आपण घेतल्याशिवाय नाही. पब्लीक सिटीझनचा विश्वास आहे की, OpenAI मुख्यतः सार्वजनिक वाऱ्यावर प्रतिक्रिया देते, नैतिक नियंत्रणे स्थापनेऐवजी. ही OpenAI ची पहिलीॲकहाणी नाही ज्यात AI संबंधी नुकसान होत आहे.

त्याचा ChatGPT प्लॅटफॉर्म यामध्ये मानसिक दुखापत, नागरीक negligence, आणि सुरक्षा कमकुवतपणा या प्रकरणांवर केस झाले आहेत. पब्लीक सिटीझनचा इशारा आहे की, नियंत्रित तपासणीशिवाय जनरेटिव AI उपकरणे सोडण्याने ही समस्या वाढतात, ज्यामुळे डिजिटल मीडिया व लोकशाही संस्था या दोघांवरच विश्वास कमी होतो. OpenAI ने Sora 2 बाबत काही शैक्षणिक प्रतिसाद दिले आहेत, जसे की, ते सामग्री निर्मात्यांशी, चित्रपट स्टुडियो, व हक्कधारकांशी संवाद साधत आहे, ज्यामुळे संरक्षण वाढवता येईल आणि दुरुपयोग कमी होईल. कंपनी जपानी सर्जनशील क्षेत्राशीही चर्चा करत आहे, कारण AI च्या प्रभावामुळे कलात्मक हक्क आणि बौद्धिक संपत्तीवरील चिंता व्यक्त होत आहेत. पब्लीक सिटीझन जोर देतो की, Sora 2 सारख्या जनरेटिव AI अ‍ॅप्सचा वेगाने व अनियंत्रितपणे प्रकाशन आपण खासगीपणा, तथ्यात्मकता, व लोकशाहीच्या स्थैर्याला बाधित करतो. त्यांच्या हटण्याची मागणी ही AI उद्योगाकडून बाजारपेठेपलीकडे जाऊन, सार्वजनिक हिताला प्राधान्य देण्याची व्यापक आव्हानाची चाहूल आहे. ते धोरणकर्ते, विकासक, व नागरिकांसह सहकार्याने जबाबदारीने AI विकसित करणे व वापर करण्यासाठी नैतिक चौकटी तयार करण्याची आवश्यकता अधोरेखित करतात. AI तंत्रज्ञान प्रगती करताना व समाजात जास्त समाविष्ट होत असल्याने, पब्लीक सिटीझनची दक्षतेची इशारे या क्रांतिकारक साधनांचा उपयोग करताना येणाऱ्या महत्त्वाच्या आव्हानांची व जबाबदाऱ्यांची आठवण करून देतात. नवाचार व सार्वजनिक हित ह्या दोघांमध्ये संतुलन ठेवणे आवश्यक राहील, कारण AI-निर्मित सामग्रीचे गुंतागुंत व परिणाम वाढत आहेत.