OpenAI investeerib akadeemilisse uurimistöösse, et arendada algoritme, mis suudavad ennustada inimeste moraalseid hinnanguid. IRS-le esitatud dokumentides avalikustas OpenAI Inc. , OpenAI mittetulunduslik haru, et nad on andnud granti Duke University teadlastele projekti jaoks, mille pealkiri on "Research AI Morality". OpenAI esindaja sõnutsi on see grant osa laiemast, kolme aasta pikkusest ja miljoni dollari suurusest algatusest, mille eesmärk on "luua moraalset AI-d". Selle moraaliuuringu üksikasjad on napid ja granti tähtaeg on aastal 2025. Walter Sinnott-Armstrong, peauurija ja Duke'i praktilise eetika professor, mainis TechCrunchile saadetud e-kirjas, et ta ei saa projektist rääkida. Sinnott-Armstrong ja kaasuurija Jana Borg on varem uurinud AI rolli kui "moraalset GPS-i" inimese otsustusprotsessides abistamiseks. Nende varasem töö hõlmab "moraalselt vastavuses" algoritmi väljatöötamist neerusiirdamise otsuste tegemiseks ning uurimist, kus inimesed eelistavad AI moraalseid otsuseid. Pressiteates öeldakse, et OpenAI rahastatud uurimistöö eesmärk on kujundada algoritme, mis suudavad ennustada inimeste moraalseid hinnanguid olukordades, kus esinevad konfliktid moraalselt oluliste tegurite vahel meditsiinis, õiguses ja äris. Siiski jääb moraali keerukuse tabamine tänapäeva tehnoloogia jaoks suureks väljakutseks. 2021. aastal lõi Allen Institute for AI Delphi nimega tööriista, mille eesmärk oli anda eetilisi soovitusi. Kuigi see töötas hästi lihtsate dilemmade puhul, võisid sõnastuse vähesed muutused viia Delfit peaaegu kõige heaks kiitmiseni, sealhulgas imikute lämmatamise. See probleem tuleneb sellest, kuidas kaasaegsed AI-süsteemid toimivad. Masinõppemudelid on olemuselt statistilised tööriistad.

Analüüsides suurt hulka veebinäiteid, õpivad nad mustreid, et teha prognoose, näiteks seostades "kellele" väljendiga "see võib muret valmistada". Need mudelid ei mõista eetilisi kontseptsioone ega moraalsete otsuste tegemisel osalevat loogikat ja emotsioone. Seetõttu peegeldab AI sageli läänelikult haritud tööstusühiskondade väärtusi, kuna selle treeningandmed koosnevad peamiselt sellistest vaadetest. Mitte kõik väärtused pole AI väljundites esindatud, eriti kui need, kes neid väärtusi omavad, ei anna oma panust AI treeninguks kasutatavasse veebisisusse. AI-süsteemid sisaldavad ka mitmesuguseid kallutatusi lisaks lääne perspektiividele. Näiteks pidas Delphi heteroseksuaalsust moraalselt vastuvõetavamaks kui homoseksuaalsust. OpenAI ja selle teadlasi ootab keeruline ülesanne, mida raskendab moraali olemuslik subjektiivsus. Filosoofid on eetiliste teooriate üle arutlenud sajandeid ilma universaalse raamistikuni jõudmata. Claude pooldab kantiaanlust, rõhutades absoluutseid moraalireegleid, samas kui ChatGPT kaldub veidi utilitarismi poole, keskendudes suurimale hüvele suurimale hulgale. Ühe lähenemisviisi paremuse üle teise ees otsustamine on subjektiivne. Algoritmi loomine inimeste moraalsete hinnangute ennustamiseks peab arvestama kõiki neid tegureid. Selle eesmärgi saavutamine on erakordselt keeruline — eeldades, et see üldse on saavutatav.