OpenAI मानवांच्या नैतिक निर्णयांचा अंदाज लावणारे अल्गोरिदम विकसित करण्यासाठी शैक्षणिक संशोधनात गुंतवणूक करत आहे. आंतरराष्ट्रीय महसूल सेवेकडे केलेल्या फाइलिंगमध्ये, OpenAI Inc. , म्हणजेच OpenAI च्या ना-नफा विभागाने, ड्यूक विद्यापीठातील संशोधकांना "शोधून काढण्याचे AI नैतिकता" नावाच्या प्रकल्पासाठी अनुदान दिल्याचे उघड केले. OpenAI च्या प्रवक्त्याच्या मते, हे अनुदान "नैतिक AI बनविणे" या व्यापक तीन-वर्षांच्या, $1 दशलक्षाच्या उपक्रमाचा भाग आहे. या नैतिकता संशोधनाबद्दलची माहिती कमीत कमी उपलब्ध आहे, 2025 मध्ये अनुदान पूर्ण होण्याचे ठरले आहे. वॉल्टर सिन्नॉट-आर्मस्ट्रॉंग, मुख्य अन्वेषक आणि प्रॅक्टिकल एथिक्समध्ये विशेषज्ज्ञ ड्यूक प्राध्यापक, यांनी TechCrunch ला ईमेलद्वारे सांगितले की ते प्रकल्पाबद्दल चर्चा करू शकत नाहीत. सिन्नॉट-आर्मस्ट्रॉंग आणि जना बॉर्ग, सह-अन्वेषक, यांनी आधी AI चे "नैतिक जीपीएस" म्हणून मानवांच्या निर्णय प्रक्रियेतील भूमिकेचा अभ्यास केला होता. त्यांच्या पूर्व कामांमध्ये मूत्रपिंड दानाच्या निर्णयांसाठी "नैतिकरित्या-संरेखित" अल्गोरिदम विकसित करणे आणि ज्या स्थितींमध्ये लोक AI च्या नैतिक निर्णयांना प्राधान्य देतात अशांनी तपासणी करणे समाविष्ट आहे. प्रेस रिलीजच्या म्हणण्यानुसार, OpenAI-खर्चित संशोधनाचे उद्दिष्टं ही आहे की वैद्यक, कायदा, आणि व्यवसाय यांत नैतिक दृष्ट्या महत्त्वपूर्ण घटकांमध्ये संघर्ष असलेल्या परिस्थितींमध्ये मानवांच्या नैतिक निर्णयांचा अंदाज लावणारे अल्गोरिदम तयार करणे. तथापि, नैतिकतेची जटिलता संगणकीय तंत्रज्ञानाच्या चालू क्षमतेसाठी एक मोठे आव्हान आहे. 2021 मध्ये, Allen Institute for AI ने Ask Delphi तयार केले, जे नैतिक शिफारसी प्रदान करण्याचा हेतू होते. सोपी दुविधा हाताळण्यात ते चांगले प्रदर्शन करत होते, परंतु शब्दकोशातील किरकोळ बदलांमुळे Delphi कधी कधी काहीही मान्य करू शकते, अगदी बाळांना गुदमरवणे देखील. हे आधुनिक AI प्रणाल्या कसे कार्य करतात यामुळे होते. मशीन लर्निंग मॉडेल्स तत्त्वतः सांख्यिकी साधने असतात.

इंटरनेटवरील विविध उदाहरणांचा विस्तृत अभ्यास करून, ते नमुने शिकतात की कु छान निर्णय करणे, जसे की "to whom" सह "it may concern" जोडणे. या मॉडेल्सना नैतिक संकल्पनांचे, तसेच नैतिक निर्णयांमधील विचारधारा आणि भावना यांचे समज नसते. परिणामी, AI ची प्रशिक्षण डेटा प्रामुख्याने अशा साम्यवादी, शिक्षित, औद्योगिक समाजांचे मूल्ये परावर्तीत करतो, कारण त्यांची प्रशिक्षण डेटा प्रामुख्याने अशाप्रकारे घेतली जाते. सर्व मूल्ये AI च्या उत्पादनात प्रतिनिधित्व केलेली नसतात, विशेषतः जर त्या मूल्ये धारण करणारी व्यक्ती ऑनलाइन सामग्री योगदान करत नसली तर. AI प्रणाल्या पाश्चिमात्य दृष्टिकोनांच्या पलीकडे विविध पूर्वग्रहांचा समावेश करतात. उदाहरणार्थ, Delphi ने सरळवर्तनाला गे असण्यापेक्षा अधिक "नैतिकदृष्ट्या स्वीकारण्याजोगा" मानले. OpenAI आणि त्याच्या संशोधकांसमोर नैतिकतेच्या अंतर्निहित सब्जेक्टिव्हिटीने परिस्थिती आणखी गुंतागुंतीची आहे. आचारतत्त्वशास्त्रज्ञनी नैतिक सिद्धांतांवर शतके चर्चाही केली आहे, तरीही एक सार्वत्रिक ढांचा विकसित करण्यास सक्षम नाहीत. Claude कांताच्या नैतिकतेच्या शाखेचे समर्थन करतो, ज्यावर तात्त्विक नैतिक नियमांचा भर आहे, तर ChatGPT थोडा उपयुक्ततावादाच्या बाजूला झुकतो, ज्यात अधिकतम संख्या लाभासाठी चांगले करणे महत्त्वाचे असते. एका दृष्टिकोनाचे महत्त्व दुसऱ्यापेक्षा श्रेष्ठ असणे सब्जेक्टिव्ह आहे. मानवांच्या नैतिक निर्णयांचा अंदाज लावणाऱ्या अल्गोरिदम विकसित करणे हे सर्व घटक विचारात घेतले पाहिजे. हे उद्दिष्ट साध्य करणे अत्यंत आव्हानात्मक आहे—तरी हे साध्य करणे शक्य आहे की नाही हे देखील.