Maendeleo ya haraka ya akili bandia (AI) yameibua maswali ya kimaadili ambayo hapo awali yalijadiliwa katika hadithi za sayansi ya uhalisia, kama vile iwapo AI inaweza kufikiria na kuhisi kama wanadamu siku moja. Hii imehamasisha kikundi cha wanahisabati na wanafalsafa kutetea ustawi wa AI. Katika ripoti iliyowekwa kwenye seva ya awali arXiv, wanawahimiza makampuni ya AI kutathmini mifumo yao kwa uwezo wa fahamu na kufanya maamuzi, na kuendeleza sera za kushughulikia hali kama hizo. Kushindwa kutambua AI yenye fahamu kunaweza kusababisha kupuuza na mateso. Ingawa baadhi wanaona ustawi wa AI hauhitajiwi kwa sasa, wengine kama Anil Seth kutoka Chuo Kikuu cha Sussex, wanahoji kuwa ni muhimu kuzingatia athari za AI yenye fahamu. Jonathan Mason, mwanahisabati kutoka Oxford, anaona mbinu za kutathmini fahamu ya AI kama kipaumbele, kutokana na kutegemea teknolojia kwa jamii. Mwandishi mwenza wa ripoti hiyo, Jeff Sebo kutoka Chuo Kikuu cha New York, anaonya kwamba dhana zisizo sahihi kuhusu fahamu za AI zinaweza kutumia vibaya rasilimali za ustawi na kuzorotesha juhudi za kuhakikisha usalama wa AI kwa wanadamu.

Ripoti inabainisha ustawi wa AI kama "kipindi cha mpito, " huku Kyle Fish akiajiriwa hivi majuzi na kampuni ya AI Anthropic kama mtafiti wa ustawi wa AI — nafasi ya kwanza ya aina yake katika kampuni kubwa ya AI. Makampuni makuu ya AI yaliyohojiwa na Nature hayakuweza kutoa maoni kuhusu mipango yao ya ustawi wa AI. Licha ya mashaka, ripoti ya karibuni ya Umoja wa Mataifa kuhusu utawala wa AI iliacha fahamu nje, ikionyesha changamoto za mawasiliano. Ingawa si hakika kama AI itafikia fahamu, mifumo ya awali ya kuitathmini inapaswa kufuatiliwa, kulingana na Sebo. Waandishi wanasisitiza kuwa mjadala wa ustawi wa AI haupaswi kufunika usalama wa AI kwa wanadamu, wakitetea umuhimu wa kuzingatia wanadamu, wanyama, na mifumo ya AI yenye uwezo wa fahamu katika maendeleo ya baadaye.