De snelle vooruitgang van kunstmatige intelligentie (AI) roept ethische vragen op die voorheen beperkt waren tot sciencefiction, zoals de vraag of AI uiteindelijk zou kunnen denken en voelen als mensen. Dit heeft een groep filosofen en computerdwetenschappers ertoe aangezet om te pleiten voor het welzijn van AI. In een rapport dat op de preprint-server arXiv is geplaatst, roepen zij AI-bedrijven op om hun systemen te evalueren op bewustzijn en beslisvaardigheden en beleid te ontwikkelen voor het omgaan met dergelijke eventualiteiten. Het niet erkennen van bewuste AI zou kunnen leiden tot verwaarlozing en lijden. Hoewel sommigen AI-welzijn op dit moment overbodig vinden, anderen, zoals Anil Seth van de Universiteit van Sussex, stellen dat het cruciaal is om de implicaties van bewuste AI te overwegen. Jonathan Mason, een wiskundige uit Oxford, beschouwt methoden voor het beoordelen van AI-bewustzijn als een prioriteit, gezien de toenemende afhankelijkheid van technologie door de samenleving. Jeff Sebo van de New York University, mede-auteur van het rapport, waarschuwt dat verkeerde aannames over AI-bewustzijn de toewijzing van welzijnsbronnen zouden kunnen verstoren en inspanningen om AI-veiligheid voor mensen te waarborgen zouden kunnen belemmeren.

Het rapport markeert AI-welzijn als een "transitiemoment, " met Kyle Fish die onlangs is aangenomen door het AI-bedrijf Anthropic als AI-welzijnsonderzoeker — de eerste functie in zijn soort bij een groot AI-bedrijf. Vooraanstaande AI-bedrijven, benaderd door Nature, gaven geen commentaar op hun plannen voor AI-welzijn. Ondanks scepsis liet het recente rapport van de Verenigde Naties over AI-governance bewustzijn onvermeld, wat communicatie-uitdagingen blootlegt. Hoewel het onzeker is of AI bewustzijn zal bereiken, moeten volgens Sebo eerste kaders worden opgesteld om dit te evalueren. De auteurs benadrukken dat AI-welzijnsdiscussies AI-veiligheid voor mensen niet mogen overschaduwen en pleiten voor overwegingen van mensen, dieren en potentiële bewuste AI-systemen bij toekomstige ontwikkelingen.