OpenAI აკადემიურ კვლევაში ახორციელებს ინვესტიციას, რათა შეიმუშაოს ალგორითმები, რომლებიც შეძლებენ ადამიანის მორალური გადაწყვეტილებების პროგნოზირებას. IRS-ის განაცხადში, OpenAI Inc. -ს, OpenAI-ის არაკომერციულ ნაწილს, მითითებული აქვს, რომ მან გრანტი მისცა დიუკის უნივერსიტეტის მკვლევარებს პროექტისთვის "AI მორალის კვლევა". OpenAI-ის წარმომადგენლის თქმით, ეს გრანტი არის სამწლიან, მილიონი დოლარის ინიციატივის ნაწილი, რომელიც მიზნად ისახავს "მორალური AI-ს შექმნას". მორალურ კვლევასთან დაკავშირებული დეტალები მცირედია ცნობილი და გრანტი დასრულდება 2025 წელს. ვოლტერ სინნოტ-არმსტრონმა, მთავარი მკვლევარმა და დიუკის პრაქტიკული ეთიკის პროფესორმა, TechCrunch-ისთვის გაგზავნილ წერილში აღნიშნა, რომ ვერ შეძლებს პროექტის დეტალების განხილვას. სინნოტ-არმსტრონი და თანაგანმცვლელი ჟანა ბორგი ადრე სწავლობდნენ AI-ს როლზე, როგორც "მორალური GPS", რაც ეხმარება ადამიანურ გადაწყვეტილებებს. მათი წარსული ნაშრომები მოიცავს "მორალურად მისიებული" ალგორითმის შემუშავებას თირკმლის დონაციის გადაწყვეტილებებისთვის და იმ სცენარების გამოკვლევას, სადაც ადამიანები ამჯობინებენ AI-ს მორალურ გადაწყვეტილებებს. პრესრელიზში აღნიშნულია, რომ OpenAI-ის დაფინანსებული კვლევები მიზნად ისახავს ალგორითმების დიზაინს, რომლებსაც შეუძლიათ ადამიანის მორალური გადაწყვეტილებების პროგნოზირება ისე, რომ შეიცავდეს მორალურად მნიშვნელოვან ფაქტორებში კონფლიქტებს მედიცინაში, სამართალში და ბიზნესში. თუმცა მორალის სირთულეების აღქმა დღევანდელი ტექნოლოგიისთვის დიდი გამოწვევაა. 2021 წელს, Allen Institute for AI-მ შექმნა Ask Delphi, ინსტრუმენტი, რომელიც განკუთვნილი იყო ეთიკური რეკომენდაციებისათვის. მარტივი დილემების შემთხვევაში ის კარგად მუშაობდა, მაგრამ ტრივიალური ცვლილებები ტექსტში შეიძლება Delphi-ს მოახლოებულიყო თითქმის ყველაფრის მიმართ, მათ შორის ბავშვების დახრჩობის უფლებას. ეს პრობლემა წარმოიშვება თანამედროვე AI სისტემების მუშაობის წესიდან. მაკისტრლებენის მოდელები არსებითად სტატისტიკური იარაღებია.

ინტერნეტში მრავალ მაგალითზე ანალიზის გზით ისინი სწავლობენ შაბლონებს პროგნოზირებისათვის, მაგალითად, "ვისთვის" ასოციაციას "შეიძლება შეშურდეს. " თუმცა ეს მოდელები არ შეიცავენ ეთიკურ კონცეფციებს და მორალურ გადაწყვეტილებებში ჩართულ გააზრებებსა და ემოციებს. ამის შედეგად, AI ხშირად ასახავს დასავლური, განათლებული, ინდუსტრიალიზებული საზოგადოების ღირებულებებს, რადგან მისი საწვრთნელი მონაცემები ძირითადად ამ შეხედულებებს შეიცავს. არა ყველა ღირებულება აისახება AI-ს შედეგებში, განსაკუთრებით იმ შემთხვევაში, თუ ამ ღირებულების მფლობელები აქტიურად არ მონაწილეობენ სასწავლო ონლაინ კონტენტის შექმნაში. AI სისტემები ასევე შეიცავენ სხვადასხვა მიკერძოებას დასავლეთზე. მაგალითად, Delphi მხარი დაუჭირა სწორი ყოფნის უფრო „მორალურად მიღებულ“ ყოფნას, ვიდრე გეი. OpenAI-მ და მისი მკვლევარებისთვის ამოცანა რთულდება მორალის სუბიექტურობით. ფილოსოფები საუკუნეების განმავლობაში კამათობდნენ ეთიკური თეორიების შესახებ და მაინც ვერ მიაღწიეს უნივერსალურ ჩარჩოს. ზოგი ადვოკატირებს კანტიანიზმს, რაც რჩეულ მორალური წესების დაცვისკენ დასტურს წარმოადგენს, ხოლო ChatGPT ოდნავ უჭრს მხარი უტილიტარიზმს, რითაც აქცენტს დებს დიდ სარგებელზე დიდ სავალდებულოში. ერთი მეთოდის სამართლიანობა მეორესთან შედარებით, სუბიექტურია. ალგორითმის შექმნა ადამიანის მორალური გადაწყვეტილებების პროგნოზირებისთვის უნდა ითვალისწინებდეს ყველა ამ ფაქტორს. ამის მიღწევა არის განსაკუთრებულად რთული დავალება—თუ ეს თუნდაც შესაძლებელია.