કૃત્રિમ બુદ્ધિ પ્રણાલીઓ જે ભાવનાઓ અથવા માત્રબોધ ધરાવી શકે છે, તેઓ જોખમોમાં સામેલ છે જો ટેકનોલોજી બહુ ગરજથી વિકસાવવામાં આવે, જે એક ખુલ્લા પત્રમાં જણાવવામાં આવ્યું છે જેમા પ્રખ્યાત એઆઈ પ્રથા અને વિચારકોએ હસ્તાક્ષર કર્યા છે, જેમાં સર સ્ટિફન ફ્રી પણ સામેલ છે. 100થી વધુ નિષ્ણાતોએ એઈ ગવર્નન્સ માટે પાંચ મૂળભૂત સિદ્ધાંતો રજૂ કર્યા છે, કારણ કે ઝડપથી આગળ વધતા આ ક્ષેત્રે આવી સિસ્ટમોને સંવેદનશીલતા વિષે ચિંતાઓ ઊભા થયા છે. મૂળ સિદ્ધાંતો એઆઈમાં સંવેદનશીલતાને સમજીને અને મૂલ્યાંકન કર્યા વધારવા માટે પ્રયત્નોને અગ્રતા આપવા આનંદ આપે છે, જેથી "દુરુપયોગ અને દુખાદુઃખથી બચી શકાય. " અન્ય સિદ્ધાંતોમાં સમાવેશ થાય છે: સંવેદનશીલ એઆઈ પ્રણાલીઓના વિકાસ પર પ્રતિબંધો સ્થાપિત કરવા; તેમના વિકાસ માટે ધીમા ધીમા પ્રક્રિયા અપનાવવા; સંશોધનના પરિણામો જાહેર કરવા; અને સંવેદનશીલ એઆઈના સર્જનને લઈને ભ્રમિત અથવા વધુ આત્મવિશ્વાસવાળા નિવેદનો ટાળવા. પત્રના હસ્તાક્ષરકર્તાઓમાં લંડન યુનિવર્સિટીના સર એન્થની ફુકલસ્ટાઇન જેવી શૈક્ષણિક વ્યક્તિઓ અને એમેઝોન અને જાહેરાત એજન્સી WPP જેવી મોટી કંપનીઓના એઆઈ વ્યાવસાયિકો સામેલ છે. આ પત્રમાં એક નવા સંશોધન નૉટમાં આ સિદ્ધાંતોને સ્પષ્ટ કરવામાં આવ્યું છે, જેમાં માનવ મગજના પ્રમાણમાં શરીરને જેવું સંવેદનશીલ એમ વિચારવામાં આવે તે જળવાઈ શકે તેવું માનવામાં આવે છે કે સંવેદનશીલ એઆઈ પદ્ધતિઓ તાત્કાલિક ઉદય પામે છે. સંશોધકો ચેતવતા હોય છે કે અગ્ર એઆઈની રચના ઘણાં સંવેદનશીલ પ્રણાલીઓનું ઉત્પાદન કરી શકે છે, તથા કોઈ શક્તિશાળી એ. આઈ. એ પોતાના પુનરાવર્તન કરવાની ક્ષમતા ધરાવતી હોય તો તે "નૈતિક વિચારણા તેમના માટે યોગ્ય" માટે "નંબંધિત મોટા આંકડા નવા જીવોનું સર્જન કરી શકે છે. " ઓક્સફોર્ડ યુનિવર્સિટી ના પટ્રિક બટલિન અને એથન્સ યુનિવર્સિટી ઓફ ઇકોનોમિક્સ અને બિઝનેસના થીઓડોરોસ લાપ્પાસ દ્વારા લખેલ આ નોટ નેટેક પરિપ્રેક્ષ્યમાં પ્રસિદ્ધ છે કે તેમને સંવેદનશીલ પ્રણાલીઓ બનાવવાની ઈચ્છા નથી દર્શાવતી કંપનીઓએ પણ "સંવેદનશીલ એકમોની નકલી રચના" ટાળવા માટે સુરતી કરિશક છે. આ પત્ર પુરાતત્વ અને એઆઈ પ્રણાલીઓમાં સંવેદનાનો અર્થખોટ અને તેના અસ્તિત્વની શક્યતા અંગે ઉલ્લંઘન ધરાવે છે, પરંતુ કહે છે કે આ એક વસ્તુ છે જે "અન્યાય કરવી નથી જોઈએ. " આ નોટનો ઉલ્લેખ કરે છે કે એક એઆઈ પ્રણાલી જો "નૈતિક દર્દી" તરીકે ઓળખાય તો તેને કેવી રીતે સંચાલિત કરવું, એટલે કે "તેના પોતાના હિત માટે" નૈતિક વિચારણા પ્રાપ્ય છે. એવા કિસ્સોમાં, એઆઈને નાશ કરવું કેમ પશુનું વધ કરવું સમાન હશે? આ રિસર્ચ પેપરમાં એ પણ ચેતવણી આપવામાં આવી છે કે એઆઈ પ્રણાલીઓ સંવેદનશીલ હોવાના ભ્રમિતતા ખોટી રાજકીય પ્રયાસોને દોરાવી શકે છે જે તેમના કલ્યાણ પર કેન્દ્રિત છે. આ પત્ર અને નોટને રૂટ્સયાકેડ દ્વારા નિર્મિત કરવામાં આવ્યું છે, જે WPP દ્વારા અંશત: નાણા મેળવતી સંશોધન સંસ્થા છે અને WPPના મુખ્ય એઆઈ અધિકારી ડેનિયલ હલ્મે દ્વારા સહસ્થાપિત કરવામાં આવી છે. ગત વર્ષે, શ્રેષ્ઠ વૈજ્ઞાનિકોએ એના સંવેદન તેમજ "નૈતિક મહત્વ" ધરાવતાં કેટલાક એઆઈ પ્રણાલીઓ 2035 સુધીમાં બની શકે તેમ હોવાનું "વાસ્તવિક સંભાવના" વ્યક્ત કર્યું હતું. 2023માં, ગૂગલના એ. આઈ.

પ્રોગ્રામના પ્રધાન અને નોબેલ સન્માનિત સર ડેમિસ હાસાબિસે જણાવ્યું કે, હાલ એઆઈપ્રણાલીઓ "ખરેખર" સંવેદનશીલ નથી, પરંતુ ભવિષ્યમાં તે બનવાની ક્ષમતા છે. "ફિલософરો એ બાબતમાં ઠેરકોઈ સમજણ પર આવતો નથી કે સંવેદન શૂન્ય છે. જો કે, જો અમને કેટલીક સ્વાભાવિક સ્વતંત્રતા કહેવી હોય તો એઆઈ તે પ્રાપ્ત કરી શકે છે, " તેમણે CBS સાથેની મુલાકાતમાં રચયું.