अलीकडे प्रसिद्ध झालेल्या एआय सेफ्टी इंडेक्सने सहा प्रमुख AI कंपन्यांच्या सुरक्षितता उपाययोजना आणि जोखमीच्या मूल्यांकनांवर तपासणी केली, ज्यामध्ये अँथ्रोपिकला सर्वाधिक C ग्रेड मिळाला. इतर कंपन्या—गुगल डीपमाइंड, मेटा, ओपनएआय, xAI आणि झिपू एआय—यांना D+ किंवा त्याहून कमी ग्रेड मिळाले, ज्यामध्ये मेटा पूर्णपणे अपयशी ठरले. फ्युचर ऑफ लाइफ इन्स्टिट्यूटचे मॅक्स टेगमार्क, ज्यांनी हा अहवाल प्रसिद्ध केला, उदाहरण देतात की उद्दिष्ट कंपन्यांच्या सुरक्षितता पद्धती सुधारण्यासाठी प्रेरित करणे आहे, तसंच विद्यापीठे रँकिंगवर प्रतिसाद देतात. टेगमार्क एआय सुरक्षितता टीममधील संशोधकांचे समर्थन करण्याचा हेतू ठेवतो, त्यांना संसाधने आणि आदर मिळवण्यासाठी मदत करणे आहे. फ्युचर ऑफ लाइफ इन्स्टिट्यूट, शक्तिशाली तंत्रज्ञानांमुळे होणाऱ्या नकारात्मक परिणामांना टाळण्यावर लक्ष केंद्रित करते आणि त्यांनी पूर्वी AI विकासाबाबत सुरक्षितता मानके स्थापित करण्यासाठी थोडा काळ थांबण्याचे आवाहन केले होते, जरी कंपन्यांनी त्याची पूर्तता केली नाही. AI सेफ्टी इंडेक्सने सहा क्षेत्रांमध्ये कंपन्यांचे आकलन केले: जोखमीचे मूल्यांकन, विद्यमान हानी, सुरक्षितता रूपरेषा, अस्तित्ववादी सुरक्षा योजना, प्रशासन आणि उत्तरदायित्व, आणि पारदर्शकता. सार्वजनिक माहितीचे विविध स्रोत असतानाही, बहुतेक कंपन्यांनी अहवालाला प्रतिसाद दिला नाही, गुगल डीपमाइंडने मात्र त्यांच्या सुरक्षितता उपाययोजना इंडेक्सपेक्षा अधिक असल्याचे सांगितले. मूल्यमापनात स्वतंत्र पुनरावलोककांचा समावेश होता, ज्यात स्टुअर्ट रसेल आणि योशुआ बेंजियो यांसारख्या प्रमुख व्यक्तींचा समावेश होता.

त्यांनी आढळले की या कंपन्यांतील विद्यमान सुरक्षितता क्रियाकलाप अप्रभावीआहेत आणि कोणतेही मोजमाप आधारित सुरक्षितता ग्यारंटी देत नाहीत. अहवालाने विशेषतः कंपन्यांच्या अस्तित्ववादी सुरक्षा रणनीतींवर टीका केली, कारण बहुतेकांनी मानवाच्या मूल्यांशी सुसंगट कृत्रिम सामान्य बुद्धिमत्ता (AGI) सुनिश्चित करण्यासाठी योग्य योजना तयार केल्या नाहीत. फक्त अँथ्रोपिकने विद्यमान हानींना संबोधित करण्याच्या बाबतीत तुलनेने उच्च गुण मिळवले, मुख्यतः त्यांच्या जबाबदार स्केलिंग धोरणामुळे. मात्र, टेगमार्क FDAप्रमाणे नियामक देखरेखीसाठी आवाहन करतो, जेणेकरुन AI उत्पादने बाजारात येण्यापूर्वी सुरक्षित असावीत. तो चेतावणी देतो की कंपन्या प्रतिस्पर्धात्मक शर्यतीत अडकलेल्या आहेत, ज्यामुळे सखोल सुरक्षितता चाचणी अवरोधित होते, आणि त्या कंपन्यांना पहिल्यांदा भेटणाऱ्या सुरक्षितता मानकांना बाजारातील फायदा मिळावा यासाठी त्यांची वकिली करतो.