कंपन्या अधिक सामर्थ्यवान एआय विकसित करत असताना, सुरक्षा उपाय मागे पडताना दिसत आहेत. फ्युचर ऑफ लाईफ इंस्टिट्यूटने प्रकाशित केलेल्या अलीकडील अहवालात, ओपनएआय आणि गूगल डीपमाइंडसारख्या कंपन्यांनी वापरलेल्या एआय तंत्रज्ञानामुळे होऊ शकणाऱ्या संभाव्य हानींबद्दल चिंता व्यक्त केली आहे. या विकासकांचे फ्लॅगशिप मॉडेल्स असुरक्षितता दाखवतात, आणि काही कंपन्यांनी सुरक्षा प्रोटोकॉल वाढवलेले असताना, इतर कंपन्या मागे आहेत. फ्युचर ऑफ लाईफ इंस्टिट्यूटच्या 2023 मधील मोठ्या प्रमाणात एआय मॉडेल प्रशिक्षण थांबवण्यासाठीच्या खुले पत्रानंतर हा अहवाल येतो, ज्याला मोठा पाठिंबा मिळाला होता. सात स्वतंत्र तज्ञांच्या पॅनेलद्वारे तयार केलेल्या या अहवालामध्ये, ज्यात ट्यूरिंग अवॉर्ड विजेता योशुआ बेंजिओ सारख्या नामवनीय व्यक्तींचा समावेश आहे, कंपन्यांचे सहा क्षेत्रांमध्ये मूल्यमापन केले गेले: जोखीम मूल्यांकन, विद्यमान हानी, सुरक्षा फ्रेमवर्क्स, अस्तित्वात्मक सुरक्षा धोरण, सुशासन व जबाबदारी, आणि पारदर्शकता व संवाद. मूल्यांकन केलेल्या धमक्या कार्बन उत्सर्जनापासून ते एआय प्रणालीच्या स्वतःच्या इच्छेने वागण्यापर्यंत होत्या. पॅनेल सदस्य स्टुअर्ट रसेल यांच्या मते, एआय कंपन्यांमधील 'सुरक्षा'च्या प्रतिमानाखालील कार्य अजून प्रभावी नाही.

दिलेली रेटिंग्स याला दर्शवतात, ज्यात मेटा आणि X. AI ला सर्वात कमी गुण देण्यात आले आहेत, तर ओपनएआय आणि गूगल डीपमाइंडला थोडी चांगली पण अजूनही अपुरी रेटिंग मिळाली आहे. अँथ्रोपिकसारख्या कंपन्यांनाही, जरी त्यांचा सुरक्षा वर भर असला तरी, केवळ C ग्रेड मिळाला, हे दर्शवते की अग्रगण्य खेळाडूंनाही सुधारणा करणे आवश्यक आहे. सर्व कंपन्यांच्या मॉडेल्सला "जेलब्रेक्स" ला असुरक्षित सापडले, ज्यामुळे त्यांच्या प्रणालींना धोका होता. एचईसी मॉन्ट्रियलच्या पॅनेल सदस्य टेगन महाराज स्वतंत्र देखरेखीची आवश्यकता अधोरेखित करतात, कारण आतल्या कंपनीच्या मूल्यांकनांवर अवलंबून राहणे दिशाभूल करणारे ठरू शकते कारण जबाबदारीचा अभाव आहे. महाराज सोप्या सुरक्षा सुधारणा, जसे की Zhipu AI, X. AI, आणि मेटावर जोखीम मूल्यांकन, याकडे दुर्लक्ष केले जात आहे हे नमूद करतात. अधिक जटिल समस्या तांत्रिक प्रगती मागतात कारण सध्याच्या एआय मॉडेल्सची अंतर्निहित रचना. स्टुअर्ट रसेल चालू एआय पद्धतीखाली हमी सुरक्षा नसल्याचे, जी प्रचंड आकडेवारीवर अवलंबून आहे, आणि एआय प्रणाली मोठ्या होत चालल्यामुळे वाढत्या अरिष्टाचे महत्त्व अधोरेखित करतात. बेंजिओ एआय सेफ्टी इंडेक्स सारख्या उपक्रमांची गरज महत्त्वाची मानतात, असे त्यांचे मत आहे की ते कंपन्या त्यांच्या सुरक्षा बांधिलकी पाळण्यास व जबाबदार पद्धती अंगीकारण्यासाठी प्रोत्साहित करण्यात महत्त्वाचे आहेत.