Szybki rozwój sztucznej inteligencji (AI) wywołał pytania etyczne, które kiedyś były domeną science fiction, na przykład czy AI mogłaby ostatecznie myśleć i odczuwać jak ludzie. To skłoniło grupę filozofów i informatyków do promowania dobrostanu AI. W raporcie opublikowanym na serwerze preprintów arXiv wzywają oni firmy zajmujące się AI do oceny swoich systemów pod kątem świadomości i zdolności podejmowania decyzji oraz opracowania polityk dotyczących radzenia sobie z takimi ewentualnościami. Nieuznanie świadomej AI mogłoby prowadzić do zaniedbań i cierpienia. Chociaż niektórzy uważają, że dobrostan AI nie jest na tym etapie potrzebny, inni, jak Anil Seth z Uniwersytetu w Sussex, twierdzą, że kluczowe jest rozważenie implikacji świadomej AI. Jonathan Mason, matematyk z Oxfordu, uznaje metody oceny świadomości AI za priorytetowe, biorąc pod uwagę rosnącą zależność społeczeństwa od technologii. Współautor raportu, Jeff Sebo z Uniwersytetu Nowojorskiego, ostrzega, że błędne założenia dotyczące świadomości AI mogą prowadzić do niewłaściwego rozdzielania zasobów dobrostanu i utrudniać działania mające na celu zapewnienie bezpieczeństwa AI dla ludzi.

Raport określa dobrostan AI jako "moment przejściowy", a Kyle Fish został niedawno zatrudniony przez firmę Anthropic jako badacz dobrostanu AI — to pierwsze takie stanowisko w dużej firmie AI. Wiodące firmy AI skontaktowane przez Nature nie skomentowały swoich planów dotyczących dobrostanu AI. Pomimo sceptycyzmu, niedawny raport Narodów Zjednoczonych dotyczący zarządzania AI pominął świadomość, co podkreśla trudności w komunikacji. Chociaż nie jest pewne, czy AI osiągnie świadomość, według Sebo należy podjąć się opracowania początkowych ram do jej oceny. Autorzy podkreślają, że dyskusje na temat dobrostanu AI nie powinny przesłaniać bezpieczeństwa AI dla ludzi, opowiadając się za uwzględnieniem ludzi, zwierząt i potencjalnie świadomych systemów AI w przyszłych rozwoju.