कृत्रिम बुद्धिमत्तेतील (AI) जलद प्रगतीने अशा नैतिक प्रश्नांना जन्म दिला आहे जे पूर्वी फक्त विज्ञान कथांमध्ये मर्यादित होते, जसे की AI अखेरीस मनुष्यांप्रमाणे विचार करू आणि जाणू शकते का. यामुळे काही तत्त्वज्ञ आणि संगणक वैज्ञानिकांनी AI कल्याणासाठी आवाज उठविला आहे. त्यांनी प्रिप्रिंट सर्व्हर arXiv वर प्रकाशित एका अहवालात AI कंपन्यांना त्यांच्या प्रणालींचे सचेतना आणि निर्णयक्षमता तपासण्याचे आवाहन केले आहे आणि अशा परिस्थितींशी संबंधित धोरणे विकसित करण्याचे आवाहन केले आहे. सचेतन AI ची ओळख न पटल्यास दुर्लक्ष आणि पीडा होऊ शकते. जरी काही जण या टप्प्यावर AI कल्याण अनावश्यक मानतात, तरी ससेक्स विद्यापीठातील अनिल सेठ यांच्यासारखे काही जण सचेतन AI च्या परिणामांचा विचार करणे अत्यावश्यक मानतात. ऑक्सफर्डमधील गणितज्ञ जोनाथन मॅसन, तंत्रज्ञानावर समाजाचे वाढते अवलंबित्व लक्षात घेऊन, AI सचेतना मोजण्यासाठीच्या पद्धतींच्या प्राथमिकतेवर भर देतात. अहवालाचे सह-लेखक, न्यू यॉर्क विद्यापीठातील जेफ सेबो यांचे म्हणणे आहे की AI सचेतना संबंधीच्या चुकीच्या समजुती कल्याण संसाधनांचे चुकीचे वितरण करू शकतात आणि मानवांसाठी AI सुरक्षितता सुनिश्चित करण्यासाठीच्या प्रयत्नांना अडथळा आणू शकतात.

अहवालात AI कल्याणाला "संक्रमण काळ" म्हणून हेरले असून, काइल फिश यांना अँथ्रोपिक या AI कंपनीने AI कल्याण संशोधक म्हणून नियुक्त केले आहे - एखाद्या प्रमुख AI कंपनीतील ही पहिली अशा प्रकारची नियुक्ती आहे. नेचरशी संपर्क साधलेल्या प्रमुख AI कंपन्यांनी त्यांच्या AI कल्याण योजना वर कोणतीही टिप्पणी केलेली नाही. संशयवाद असूनही, AI शासनाच्या संयुक्त राष्ट्राच्या अलीकडील अहवालाने सचेतनता वगळली असून, त्यामुळे संवाद आव्हानांचे संकेत मिळतात. AI सचेतना प्राप्त करेल का हे निश्चित नसले तरी, सेबो यांच्या मते, त्याचे मूल्यमापन करण्याचे प्रारंभिक ढांचे विकसित करणे आवश्यक आहे. लेखकांनी जोर दिला आहे की AI कल्याण चर्चा मानवी सुरक्षिततेसाठी AI बाबतच्या चर्चेवर छाया टाकू नये, असा आग्रह करतात की भविष्यातील विकासात मानव, प्राणी आणि संभाव्य सचेतन AI प्रणालींचा विचार केला जावा.