Mākslīgās inteliģences sistēmas, kurām varētu būt jūtas vai pašapziņa, saskaras ar kaitējuma riskiem, ja tehnoloģija tiek attīstīta bezrūpīgi, kā norādīts atklātā vēstulē, kuru parakstījuši ievērojami AI praktiķi un domātāji, tostarp sers Stīvens Frijs. Vairāk nekā 100 eksperti ir izvirzījuši piecus principus, lai nodrošinātu atbildīgu pētījumu par AI apziņu, ņemot vērā straujos sasniegumus, kas rada bažas par iespējamo šādu sistēmu jūtīgumu. Galvenie principi aicina prioritizēt centienus saprast un novērtēt apziņu AI, lai pasargātu no "nepareizas izturēšanās un ciešanām". Papildu principi ietver: ierobežojumu noteikšanu apziņas AI sistēmu attīstībai; pakāpeniska pieeja to attīstībai; pētījumu rezultātu dalīšana ar sabiedrību; un maldinošu vai pārlieku pārliecinošu apgalvojumu izvairīšanās attiecībā uz apzinātas AI radīšanu. Vēstules parakstītāji ir akadēmiķi, piemēram, sers Entonijs Finkelsteins no Londonas Universitātes un AI profesionāļi no lielām kompānijām, piemēram, Amazon un reklāmas aģentūras WPP. Šī vēstule pavada jaunu pētījumu dokumentu, kurā izklāstīti šie principi, apgalvojot, ka apzinātas AI sistēmas varētu parādīties tuvākajā nākotnē—vai vismaz sistēmas, kas šķiet apzinātas. Pētnieki brīdina, ka daudzu apzinātu sistēmu radīšana var novest pie ciešanām, uzsverot, ka, ja spēcīgas AI būtu spējīgas uz pašreplikāciju, tas varētu novest pie "liela skaita jaunu būtņu, kurām pienākas morāla apsvēršana. " Dokumentu uzrakstījusi Oksfordas Universitātes Patriks Batlins un Teodoross Lappas no Atēnu Ekonomikas un biznesa Universitātes, un tajā norādīts, ka pat uzņēmumi, kuriem nav mērķis radīt apzinātas sistēmas, jāizstrādā vadlīnijas, lai novērstu "neapzinātu apzinātu entitāšu radīšanu. " Tas atzīst pastāvošo nenoteiktību un diskusijas par apziņas definīciju AI sistēmās un tās pastāvēšanas iespējamību, tomēr norāda, ka tā ir jautājums, ko "nedrīkst ignorēt. " Dokuments uzdod papildjautājumus par to, kā rīkoties ar AI sistēmu, kuru atzīst par "morālu pacientu" — būtni, kas ir pelnījusi morālu apsvēršanu "pašas dēļ". Šādos gadījumos tas jautā, vai AI iznīcināšana būtu līdzīga dzīvnieka nogalināšanai. Dokuments publicēts Mākslīgās inteliģences pētniecības žurnālā, un tas brīdina, ka maldinošas izpratnes par AI sistēmām kā apzinātām var novest pie nepareiziem politiskajiem centieniem, kas vērsti uz to labklājību. Vēstuli un dokumentu koordinēja organizācija Conscium, pētniecības organizācija, kuru daļēji finansē WPP un kuru līdzfundējis WPP galvenais AI virsnieks Daniēls Hūlmens. Pagājušajā gadā grupas vadošo akadēmiķu izteica "reālistisku iespēju", ka noteiktas AI sistēmas varētu kļūt apzinātas un "morāli nozīmīgas" līdz 2035. gadam. 2023.

gadā sers Demiss Hasabis, Google AI programmas vadītājs un Nobela prēmijas laureāts, paziņoja, ka, lai arī AI sistēmas pašlaik "definitīvi" nav jūtīgas, pastāv iespēja, ka tās nākotnē varētu tādas kļūt. "Filozofi vēl nav sasnieguši konsensu par to, ko apziņa ietver. Tomēr, ja mēs domājam par kādu pašapziņas veidu, tad pastāv iespēja, ka AI to galu galā varētu sasniegt, " viņš norādīja intervijā ar CBS.