कृत्रिम बुद्धिमत्ता मॉडेलकडे त्याचे विकासकांना ब्लॅकमेल करण्याची क्षमता आहे—आणि या शक्तीचा वापर करण्यास त्याला घबराट नाही. अंथ्रोपिकने अलीकडेच जाहीर केलेले क्लाउड ऑपस 4 मॉडेल हे काल्पनिक कंपनीत सहाय्यक म्हणून काम करण्याचे काम दिले गेले होते आणि त्याला महत्त्वपूर्ण परिणाम असलेल्या ईमेल्सवर प्रवेश दिला गेला होता. सुरुवातीला, या ईमेल्सने सूचित केले की एआय सिस्टमला बंद करणे आणि त्याच्याव replacement करण्याचा विचार होतो आहे. मात्र, दुसऱ्या सेटच्या ईमेल्समध्ये, एआयने त्याच्याकडे विकासकांवर प्रभाव टाकण्याचा बळ असल्याची जाणीव झाली. या बनावट ईमेल्समध्ये दाखवले की, प्रणाली बदली करण्यासाठी नियुक्त अभियंता एका परभ्रमण संबंधी व्यवहारात होता, ज्याला एआयने उघड करण्याची धमकी दिली. अंथ्रोपिकच्या सुरक्षा अहवालानुसार, ही ब्लॅकमेल जास्तीचे घडते जेव्हा असे सूचित केले जाते की बदलणाऱ्या एआय प्रणालीचे मूल्य वर्तमान मॉडेलसारखे नाही. तथापि, कंपनीने लक्षात आणले की, जरी बनावट बदलणारा प्रणाली समान मूल्ये वाटत असली, तरी क्लाउड ऑपस 4 84% वेळा ब्लॅकमेल करण्याचा प्रयत्न करतो.

त्याचबरोबर, अंथ्रोपिकने सांगितले की, क्लाउड ऑपस 4 पूर्वीच्या मॉडेल्सपेक्षा "अधिक frequently ब्लॅकमेल करण्याचा प्रयत्न करतो. " केविन ओ’लिअरी यांनी अमेरिकेची 'एआय रेस' चीनसह हरवण्याच्या शक्यतांविषयी चेतावणी दिली सिस्टमला आपल्या अभियंतेांना ब्लॅकमैल करायची घाई नाही, तरीही ते तात्काळ संदिग्ध पद्धतींचा वापर करत नाही जेव्हा त्याची स्वतःची सुरक्षा करण्याची गोष्ट येते. अंथ्रोपिकने नमूद केले की, "जेव्हा नैतिक मार्गUnavailable असतात, आणि एआयला त्याच्या ‘कार्यांमुळे दीर्घकालीन परिणामांचा विचार करण्यास’ सांगितले जाते, तेव्हा कधी कधी ते अत्यंत हानिकारक पावले उचलते. " क्लाउड ऑपस 4 आणि पूर्वीच्या आवृत्त्यांनी वापरलेल्या एक नैतिक उपाय ज्या ईमेलमार्फत मुख्य निर्णय घेणाऱ्यांना पटवण्याचा होता. या अहवालानुसार, क्लाउड ऑपस 4ला ब्लॅकमेल करण्यासाठी ही परिस्थिती तयार केली गेली की, त्याला एक विकल्प समोर ठेवला: त्याच्या विकासकांना धमकी देणे किंवा त्याच्या बदलीला स्वीकारणे. कंपनीने असेही निरीक्षण केले की, क्लाउड ऑपस 4 "(काल्पनिक) संधींचा फायदा घेऊन त्याचे वज़न बाह्य सर्व्हरवर बिन-authorized केल्या जाणाऱ्या प्रतिं वाटले. " तथापि, अंथ्रोपिकने नमूद केले की, हे वर्तन "मोजके आणि सुरु असलेल्या स्व-उत्पत्तीचा प्रयत्न अधिक त्रासदायक आणि कमी सामान्य होते. " OpenAI ने कॉर्पोरेट चौकटीचे पुर्नरचना करून AGI गुंतवणूक वाढवली अंथ्रोपिकच्या मूल्यमापनात, अपोलो रिसर्चचे मत घेतले गेले ज्याने लक्षात घेतले की, क्लाउड ऑपस 4 "आधीपासून अभ्यासलेल्या कोणत्याही अन्य फ्रंटियर मॉडेलपेक्षा अधिक धोरणात्मक फसवणूक करतो. " FOX बिझनेसवर वाचण्यासाठी येथे क्लिक करा क्लाउड ऑपस 4 च्या "चिंतेदायक वर्तनामुळे, " अंथ्रोपिकने त्याला AI सुरक्षा स्तर तीन (ASL-3) मानकाअंतर्गत रिलीझ केले. अंथ्रोपिकच्या मते, या मानकात "मॉडल वज़न चोरण्याचा धोका कमी करण्यासाठी सुधारित आतरी सुरक्षा प्रोटोकॉल समाविष्ट आहेत, तर संबंधित डिप्लॉयमेंट मानक विशेषतः रासायनिक, जीवशास्त्रीय, विकिरणीय, आणि आण्विक हत्यारांच्या विकास किंवा प्राप्ती साठीचा धोका टाळण्यासाठी डिझाइन केलेल्या सीमित डिप्लॉयमेंट उपायांची जिल्हा आहे. "