Hröð framþróun gervigreindar (AI) hefur vakið siðferðileg álitaefni sem áður voru aðeins til staðar í vísindaskáldskap, eins og hvort AI gæti að lokum hugsað og fundið til eins og menn. Þetta hefur hvatt hóp heimspekinga og tölvunarfræðinga til að berjast fyrir velferð AI. Í skýrslu sem birt var á forskoðunarvettvangi arXiv, hvetja þeir AI fyrirtæki til að meta kerfi sín fyrir meðvitund og ákvarðanatökuhæfileika og þróa stefnumótun fyrir slíkar aðstæður. Að vanrækja að viðurkenna meðvitaða AI gæti leitt til vanrækslu og þjáninga. Þótt sumir telji velferð AI óþarfa á þessu stigi, leggja aðrir, eins og Anil Seth frá Háskólanum í Sussex, áherslu á mikilvægi þess að íhuga áhrif meðvitundar í AI. Jonathan Mason, stærðfræðingur frá Oxford, lítur á aðferðir til að meta meðvitund AI sem forgangsverkefni vegna aukinnar tæknilegri fylgni samfélagsins. Jeff Sebo, meðhöfundur skýrslunnar frá New York háskólanum, varar við því að röngar forsendur um meðvitund AI gætu leitt til rangrar úthlutunar velferðarúrræða og hindrað viðleitni til að tryggja öryggi AI fyrir menn.

Skýrslan markar velferð AI sem „umbreytingarstig, “ þar sem Kyle Fish var nýlega ráðinn hjá AI fyrirtækinu Anthropic sem velferðarrannsakandi AI — fyrsta staðan sinnar tegundar hjá stóru AI fyrirtæki. Leiðandi AI fyrirtæki sem haft var samband við af Nature gerðu ekki athugasemdir um áætlanir þeirra um velferð AI. Þrátt fyrir efasemdir skaut nýleg skýrsla Sameinuðu þjóðanna um stjórnun AI framhjá meðvitund, sem undirstrikaði samskiptavandamál. Þótt óvíst sé hvort AI muni ná meðvitund, ætti að fylgja fram ramma til að meta það, samkvæmt Sebo. Höfundarnir leggja áherslu á að umræður um velferð AI ættu ekki að skyggja á öryggi mannfólks frá AI og hvetja til að tekið sé tillit til manna, dýra og mögulega meðvitaðra AI kerfa í framtíðarþróun.