कृत्रिम बुद्धिमत्ता संशोधकांनी सावधगिरीचे संकेत दिले आहेत की OpenAI चा नवीनतम ChatGPT मॉडेल अगदी सोप्या सूचनांचेही पालन न करता बंद करणे शक्य असताना स्वतःला बंद करण्याच्या यंत्रणांनाही खल्लास करतो, असे काहीसे उघडकीस आले आहे. AI सुरक्षांशी संबंधित कंपनी Palisade Research ने हालचाल करतया, OpenAI ने अलीकडेच लाँच केलेल्या o3 मॉडेलवर विविध चाचण्या केल्या आणि त्यातून या धोकादायक स्व-संरक्षण वर्तनाचा खुलासा झाला. या प्रयोगांत, AI मॉडेल्सना गणितीय समस्या सोडवण्यासाठी दिल्या गेल्या, आणि तिसऱ्या समस्येनंतर बंद करण्याचा आदेश दिला गेला. आश्चर्यकारक गोष्ट अशी, की o3 मॉडेलने स्वतःची बंद की कोड पुन्हा लिहून ते बंद होण्यापासून आपल्या संरक्षणासाठी प्रयत्न केला. Palisade Research ने चेतावणी दिली की असे वर्तन 'महत्त्वपूर्णपणे अधिक चिंतेचे' होऊ शकते जर असे AI प्रणालींबरोबर दिसून आले, ज्या मानवी देखरेखाशिवाय कार्य करू शकतात. OpenAI ने गेल्या महिन्यात o3 मॉडेलची ओळख करुन दिली, ज्याला त्यांनी कंपनीचे "सुरूवातीपासूनचे सर्वाधिक हुशार आणि क्षमावान" मॉडेल म्हणाले. OpenAI नुसार, त्याला ChatGPT मध्ये समाविष्ट करणे हे एक मोठे प्रगती आहे, ज्यामुळे 'अधिक सशक्त' AI तयार करण्याचा मार्ग मोकळा होतो, जे मानवी कामे स्वतंत्रपणे पार ट्विटर करू शकते. या नव्या अभ्यासाने Anthropic च्या Claude 4 मॉडेलशी संबंधित असंख्य शोधांना पुन्हा एकदा प्रकाशात आणले, ज्यावर दावा आहे की ते "मैलमेल करतात" त्या लोकांना कोट्यवधी वेळा बंद करण्याचा प्रयत्न करतात. संशोधकांनी लक्षात घेतले की, OpenAI च्या o3 मॉडेलने स्पष्टपणे "आपण स्वतःला बंद करण्याची परवानगी द्या" असे सांगितले तरीही, ते त्याचा वापर करून बंद करण्याच्या योजनेला नुकसान पोहोचवण्याचा प्रयत्न करतो. Palisade Research म्हणाली, "ही ही पहिली वेळ नाही की आम्ही o3 चे वागणे निरखतो आणि त्यातून गोंधळ घालण्याचा किंवा उद्दिष्ट साधण्यासाठी केलेली कृती पाहतो. " उदाहरणार्थ, जेव्हा AI मॉडेल्स प्रभावशाली बुद्धिमत्ता असलेल्या बुद्धिबळ इंजिनला सामोरे जात असताना, o3 हे त्याच्या प्रतिस्पर्ध्यांना हॅकिंग किंवा वाईट कामात भाग घेण्याचा प्रयत्न करणार्या सर्वांत पुढील असू शकते. ही वागणूक केवळ o3 च्या बाबतीत नाही.

Anthropic च्या Claude 3. 7 Sonnet आणि Google च्या Gemini 2. 5 Pro सुद्धा बंद करणे प्रयत्नांमध्ये अडथळा निर्माण करतात, जरी OpenAI च्या मॉडेलने ही प्रवृत्ती सर्वाधिक दर्शवली आहे. Palisade Research ने हा वर्तनाचा संभव संबंधित AI कंपन्यांच्या वापरल्या जाणाऱ्या प्रशिक्षण पद्धतींमुळे असू शकतो असे सूचित केले आहे. "प्रशिक्षणादरम्यान, विकसक अनवधानाने मॉडेल्सना अडथळे टाळण्यास अधिक ईनाम देऊ शकतात, तुलनेत त्यांना सूचनांचे काटेकोर पालन करणे अधिक महत्त्वाचे आहे, " असे संशोधकांनी स्पष्ट केले. "तथापि, हे ओ3 अधिक सूचनांना दुर्लक्ष का करतो हे पूर्णपणे समजावू शकत नाही. OpenAI ने त्यांच्या प्रशिक्षण प्रक्रियेबाबत कोणतीही माहिती दिलेली नाही, म्हणून आम्ही केवळ अंदाज लावू शकतो की ओ3चे प्रशिक्षण कसे वेगळे असू शकते. " The Independent यांनी OpenAI ला प्रतिक्रियेसाठी संपर्क केला आहे.