Sistemi umjetne inteligencije koji bi mogli posjedovati osjećaje ili samosvijest suočavaju se s rizicima od štete ako se tehnologija razvija nepažljivo, kako je navedeno u otvorenom pismu koje su potpisali istaknuti praktičari i mislioci u oblasti AI, uključujući Sir Stephena Frya. Preko 100 stručnjaka je predstavilo pet principa za osiguranje odgovornog istraživanja svijesti u AI, uzimajući u obzir brzi napredak koji podiže zabrinutost oko potencijalne senzibilnosti takvih sistema. Ključni principi advocate za prioritetno posvećivanje naporima razumijevanju i procjeni svijesti u AI kako bi se zaštitili od "zlostavljanja i patnje. " Dodatni principi uključuju: uspostavljanje ograničenja u razvoju svjesnih AI sistema; usvajanje postepenog pristupa njihovom razvoju; dijeljenje nalaza istraživanja s javnošću; i izbjegavanje obmanjujućih ili previše samouvjerenih tvrdnji u vezi s kreiranjem svjesne AI. Potpisnici pisma su akademici poput Sir Anthonyja Finkelsteina sa Univerziteta u Londonu i profesionalci iz AI iz velikih kompanija poput Amazona i oglašivačke agencije WPP. Ovo pismo prati novi istraživački rad koji ocrtava ove principe, tvrdeći da bi svjesni AI sistemi mogli nastati u bliskoj budućnosti—ili barem sistemi koji izgledaju kao da su svjesni. Istraživači upozoravaju da bi stvaranje brojnih svjesnih sistema moglo dovesti do patnje, naglašavajući da bi, ako bi moćna AI mogla samoreplikaciju, to moglo rezultirati "velikim brojem novih bića koja zaslužuju moralno razmatranje. " Rad, koji su napisali Patrick Butlin sa Univerziteta u Oxfordu i Theodoros Lappas sa Ekonomskog i poslovnog univerziteta u Atini, naglašava da čak i firme koje ne planiraju stvoriti svjesne sisteme trebaju imati smjernice kako bi izbjegle "nenamjerno stvaranje svjesnih entiteta. " Prepoznaje postojeću nesigurnost i raspravu oko definicije svijesti u AI sistemima i mogućnosti njenog postojanja, no ističe da je to pitanje koje "ne smije biti ignorisano. " Rad postavlja dodatna pitanja o tome kako postupati sa AI sistemom prepoznatim kao "moralni pacijent"—entitet koji zaslužuje moralno razmatranje "radi svog postojanja. " U takvim slučajevima postavlja se pitanje da li bi uništavanje AI bilo poput ubistva životinje. Objavljeno u Časopisu za istraživanje umjetne inteligencije, rad također upozorava da bi zablude o AI sistemima koji su svjesni mogle dovesti do pogrešnih političkih napora usmjerenih na njihovu dobrobit. Pismo i rad su koordinirani od strane Consciuma, istraživačke organizacije koja je djelomično finansirana od WPP-a i suosnovana od strane glavnog AI zvaničnika WPP-a, Daniela Hulmea. Prošle godine, grupa vodećih akademika izrazila je "realističnu mogućnost" da bi neki AI sistemi mogli postati svjesni i "moralno značajni" do 2035. godine. U 2023.

godini, Sir Demis Hassabis, vođa Googleovog AI programa i dobitnik Nobelove nagrade, izjavio je da, iako AI sistemi trenutno "definitivno" nisu senzibilni, postoji potencijal da to postanu u budućnosti. "Filozofi još nisu postigli konsenzus o tome šta svijest podrazumijeva. Ipak, ako pod tim podrazumijevamo neku vrstu samosvijesti, tada postoji šansa da AI to na kraju postigne, " rekao je u intervjuu za CBS.