OpenAI инвестира во академско истражување за развивање алгоритми што можат да ги предвидуваат човековите морални одлуки. Во поднесок до даночната служба, OpenAI Inc. , непрофитната гранка на OpenAI, откри дека доделила грант на истражувачи од Универзитетот Дјук за проект насловен "Истражување на моралот на ИИ. " Според портпарол на OpenAI, овој грант е дел од поширока тригодишна иницијатива вредна 1 милион долари насочена кон "создавање морална ИИ. " Детали за ова истражување за моралот се ограничени, со грантот кој ќе заврши во 2025 година. Волтер Синот-Армстронг, главниот истражувач и професор на Дјук специјализиран за практична етика, спомена во е-пошта до TechCrunch дека не може да дискутира за проектот. Синот-Армстронг и Јана Борг, коистражувач, претходно ја истражуваа улогата на ИИ како "морален GPS" за да помогне во човековото донесување одлуки. Нивната претходна работа вклучува развој на "морално усогласен" алгоритам за одлуки за донирање на бубрег и испитување на сценарија каде што луѓето претпочитаат морални одлуки од ИИ. Во соопштението за печатот се наведува дека целта на истражувањето финансирано од OpenAI е да дизајнира алгоритми способни да предвидуваат човечки морални одлуки во ситуации каде има судир на морално релевантни фактори во медицина, право и бизнис. Меѓутоа, фаќањето на комплексноста на моралот останува значаен предизвик за сегашната технологија. Во 2021 година, Институтот Allen за ИИ го создаде Ask Delphi, алатка наменета за давање етички препораки. Иако добро се справуваше со непосредни дилеми, мали промени во формулацијата можеа да доведат Delphi да поддржи речиси било што, дури и задушување на новороденчиња. Овој проблем произлегува од начинот на кој современите системи за ИИ функционираат. Моделите за машинско учење суштински се статистички алатки.

Преку анализа на голем број примери од интернет, тие учат шеми за да дадат предвидувања, како поврзување на "кому" со "може да се однесува. " Овие модели немаат разбирање на етичките концепти и резонирањето и емоциите вклучени во моралните одлуки. Затоа, ИИ често ги рефлектира вредностите на западните, образувани, индустријализирани општества, бидејќи нејзините податоци за обука вклучуваат главно вакви погледи. Не сите вредности се претставени во излезите на ИИ, особено ако лицата кои ги поседуваат тие вредности не придонесуваат кон онлајн содржината што се користи за обука. Системите за ИИ исто така инкорпорираат низа пристрасности надвор од западните перспективи. На пример, Delphi сметало дека бидувањето хетеросексуален е повеќе "морално прифатливо" од бидувањето хомосексуален. Задачата што стои пред OpenAI и нејзините истражувачи е комплицирана поради субјективноста на моралот. Филозофите дебатирале за етички теории со векови без да постигнат универзален рамка. Клод се залага за кантовизам, потенцирајќи апсолутни морални правила, додека ChatGPT малку се наклонет кон утилитаризам, фокусирајќи се на најголемото добро за најголемиот број. Супериорноста на едниот пристап над другиот е субјективна. Создавањето алгоритам што ќе ги предвиди човековите морални одлуки мора да ги разгледа сите овие фактори. Постигнувањето на оваа цел е исклучително тешко, ако е воопшто можно.