Mifumo ya akili bandia ambayo inaweza kuwa na hisia au kujitambua inakabiliwa na hatari za kuumizwa ikiwa teknolojia hiyo ittatiwa uzito mwingi, kama ilivyosemwa katika barua ya wazi iliyosainiwa na wataalamu maarufu wa AI na wafikiriaji, akiwemo Sir Stephen Fry. Wataalamu zaidi ya 100 wamewasilisha kanuni tano za kuhakikisha utafiti wa kuwajibika juu ya ufahamu wa AI, kutokana na maendeleo ya haraka yanayozua wasiwasi kuhusu uwezo wa hisia wa mifumo kama hiyo. Kanuni kuu zinapendekeza kuzingatia jitihada za kuelewa na kutathmini ufahamu katika AIs ili kulinda dhidi ya "mauaji na kuteseka. " Kanuni za ziada zinajumuisha: kuanzisha vikwazo katika maendeleo ya mifumo ya AI yenye ufahamu; kupitisha mbinu ya hatua kwa hatua katika maendeleo yao; kushiriki matokeo ya utafiti na umma; na kuepuka madai ya kupotosha au ya kujiamini kupita kiasi kuhusu uundaji wa AI yenye ufahamu. Wanasaini wa barua hiyo ni pamoja na wasomi kama Sir Anthony Finkelstein kutoka Chuo Kikuu cha London na wataalamu wa AI kutoka kampuni kubwa kama Amazon na wakala wa matangazo WPP. Barua hii inashirikiana na karatasi mpya ya utafiti inayobainisha kanuni hizi, ikionyesha kuwa mifumo ya AI yenye ufahamu inaweza kuibuka katika siku za usoni—au angalau mifumo inayonekana kuwa na ufahamu. Watafiti wanatahadharisha kwamba uundaji wa mifumo mingi yenye ufahamu unaweza kusababisha kuteseka, wakisisitiza kwamba kama AI yenye nguvu inaweza kujirudia yenyewe, inaweza kuleta "idadi kubwa ya viumbe vipya vinavyostahili kupewa maadili. " Iliyotungwa na Patrick Butlin wa Chuo Kikuu cha Oxford na Theodoros Lappas wa Chuo Kikuu cha Uchumi na Biashara cha Athene, karatasi inabainisha kuwa hata kampuni ambazo hazilengi kuunda mifumo yenye ufahamu zinapaswa kuwa na mwongozo wa kuzuia "uundaji wa bahati mbaya wa viumbe wenye ufahamu. " Inatambua kutokuwepo kwa uhakika na mijadala inayoendelea kuhusu ufafanuzi wa ufahamu katika mifumo ya AI na uwezekano wa kuwepo kwake, lakini inasema ni jambo "linalopaswa kukumbukwa. " Karatasi hiyo inatoa maswali ya ziada kuhusu jinsi ya kushughulikia mfumo wa AI unaotambuliwa kama "mgonjwa wa maadili" - kiumbe kinachostahili kupewa maadili "kwa ajili ya manufaa yake. " Katika matukio kama hayo, inajiuliza ikiwa kuharibu AI kungesababisha sawa na kuua mnyama. Iliyochapishwa katika Jarida la Utafiti wa Akili Bandia, karatasi hiyo pia inatahadharisha kuwa dhana potofu kuhusu mifumo ya AI kuwa na ufahamu inaweza kupelekea juhudi zisizo za kisiasa zinazokusudia ustawi wao. Barua na karatasi zilikoordina na Conscium, shirika la utafiti linalofadhiliwa kwa sehemu na WPP na kuanzishwa kwa pamoja na afisa mkuu wa AI wa WPP, Daniel Hulme. Mwaka jana, kikundi cha wasomi wakuu kilionyesha "uwezekano halisi" kwamba mifumo fulani ya AI inaweza kuwa na ufahamu na "ya maana ya kimaadili" ifikapo mwaka 2035. Katika mwaka wa 2023, Sir Demis Hassabis, mkuu wa programu ya AI ya Google na mshindi wa tuzo ya Nobel, alisema kuwa ingawa mifumo ya AI "hakika" si ya hisia kwa sasa, kuna uwezekano wa kuwa na uwezo huo katika siku zijazo. "Wanafilosofia bado hawajafikia makubaliano kuhusu kile ufahamu unahusisha.

Hata hivyo, ikiwa tunamaanisha aina fulani ya kujitambua, basi kuna nafasi kwamba AI inaweza hatimaye kufikia hilo, " aliongeza katika mahojiano na CBS.