Den raske utviklingen av kunstig intelligens (AI) har reist etiske spørsmål som en gang var begrenset til science fiction, som om AI til slutt kan tenke og føle som mennesker. Dette har fått en gruppe filosofer og datavitenskapsfolk til å gå inn for velferd for AI. I en rapport lagt ut på forhåndsserveren arXiv, oppfordrer de AI-selskaper til å evaluere sine systemer for bevissthet og evne til å ta beslutninger og utvikle retningslinjer for å håndtere slike eventualiteter. Å ikke anerkjenne bevisst AI kan føre til forsømmelse og lidelse. Selv om noen anser AI-velferd som unødvendig på dette stadiet, mener andre, som Anil Seth fra Universitetet i Sussex, at det er avgjørende å vurdere implikasjonene av bevisst AI. Jonathan Mason, en matematiker fra Oxford, ser metoder for å vurdere AI-bevissthet som en prioritet, gitt samfunnets økende avhengighet av teknologi. Rapportens medforfatter, Jeff Sebo fra New York University, advarer om at feilantagelser om AI-bevissthet kan feilallokere velferdsressurser og hemme innsats for å sikre AI-sikkerhet for mennesker.

Rapporten markerer AI-velferd som et "overgangsøyeblikk", med Kyle Fish nylig ansatt av AI-firmaet Anthropic som en AI-velferdsforsker — den første posisjonen av sitt slag i et stort AI-selskap. Ledende AI-firmaer kontaktet av Nature kommenterte ikke deres AI-velferdsplaner. Til tross for skepsis, utelot FNs nylige rapport om AI-styring bevissthet, noe som fremhever kommunikasjonsutfordringer. Selv om det er usikkert om AI vil oppnå bevissthet, bør initiale rammeverk for å evaluere dette forfølges, ifølge Sebo. Forfatterne understreker at diskusjoner om AI-velferd ikke bør overskygge AI-sikkerhet for mennesker, og de går inn for å ta hensyn til mennesker, dyr og potensielt bevisste AI-systemer i fremtidige utviklinger.