Nidaamyada sirdoonka macmalka ah ee laga yaabo inay leeyihiin dareenno ama is-macquul ah waxay wajahayaan khataro dhaawac haddii tignoolajiyada si aan habboonayn loo horumariyo, sida ku xusan waraaq furan oo saxiixay khubarada iyo fikirrayaal caan ah oo ay ka mid yihiin Sir Stephen Fry. In ka badan 100 khabiir ayaa soo bandhigay shan mabda' oo xaqiijinaya cilmi-baaris mas'uul ah oo ku saabsan wacyiga AI, maadaama horumarrada degdega ah ay sare u qaadaan welwelka ku saabsan suurtagalnimada dareenka noocyadaan. Mabda'a muhiimka ah waxay ku baaqayaan in la doorbido dadaallada lagu fahmayo iyo lagu qiimeynayo wacyiga AI si loo ilaaliyo ka hortagga "dhibaatooyinka iyo dhibaatada. " Mabda'a dheeraadka ah waxaa ka mid ah: dejinta xaddidaad ku saabsan horumarinta nidaamyada AI ee wacyiga leh; qaadashada hab dhismeed kala soocan si loo horumariyo; la wadaagista natiijooyinka cilmi-baarista bulshada; iyo ka fogaanshaha sheegashooyin khaldan ama go'aan aan aakhirka dhicin oo ku saabsan abuurista AI wacyi leh. Saxiixayaasha waraaqda waxaa ka mid ah aqoonyahanno sida Sir Anthony Finkelstein oo ka socda Jaamacadda London iyo xirfadlayaal AI ah oo ka socda shirkadaha waaweyn sida Amazon iyo hay'ad xayaysiis ah oo la yiraahdo WPP. Waraaqdan waxay la socotaa qoraal cusub oo cilmi-baaris ah oo qeexaya mabda'aan, waxayna soo jeedinaysaa in nidaamyada AI wacyi leh ay soo baxaan mustaqbalka dhow—ama ugu yaraan nidaamyo u muuqda inay wacyi leeyihiin. Cilmi-baadhayaashu waxay ka digayaan in abuurista tiro badan oo nidaamyo wacyi leh ay keeni karto dhibaato, iyagoo adkeenaya in haddii AI awood leh ay awood u yeelato is-kordhinta, ay keeni karto "tira badan oo cusub oo ka tarjumaya tixgelin akhlaaqeed. " Qoraalka waxaa qoray Patrick Butlin oo ka tirsan Jaamacadda Oxford iyo Theodoros Lappas oo ka socda Jaamacadda Athens ee Dhaqaalaha iyo Ganacsiga, waxayna sheegayaan in xitaa shirkadaha aan ujeeddadoodu ahayn abuurista nidaamyo wacyi leh ay leeyihiin tilmaamo lagama maarmaan ah si looga fogaado "abuurista aan talaamo lahayn ee mashaariic wacyi leh. " Waxay aqoonsan tahay wareegyada rajo la'aan ah iyo doodaha ku xeeran qeexidda wacyiga nidaamyada AI iyo suurtagalnimada jiritaankeed, laakiin waxay leedahay arrintani "kamay joogsan karto. " Qoraalka ayaa sidoo kale su'aalo dheeraad ah keenaya oo ku saabsan sida loola macaamilo nidaam AI oo la aqoonsan yahay in uu yahay "macaamil akhlaaqeed"—jiritaan mudan tixgelin akhlaaqeed "danta nafteeda. " Xaaladahaas, waxay su'aal ka keenaysaa in burburinta AI ay la mid noqon lahayd dilka xayawaanka. Waxaa lagu daabacay Journal of Artificial Intelligence Research, qoraalka ayaa sidoo kale ka digaya in fikradaha khaldan ee nidaamyada AI wacyi leh ay keeni karaan dadaallo siyaasadeed oo qaldan oo diiradda saaraya danahooda. Waraaqda iyo qoraalka waxaa iskaashi ka sameeyay Conscium, oo ah urur cilmi-baaris ah oo si qayb ah u maalgelinaya WPP iyo ku-meel-gaarid uu sameeyay Daniel Hulme, oo ah madaxda AI ee WPP. Sannadkii hore, koox aqoonyahanno ah ayaa muujisay "suurtogalnimada dhabta ah" in nidaamyo AI ah ay noqdaan wacyi leh oo "moral ahaan muhiim ah" sanadka 2035. Sanadka 2023, Sir Demis Hassabis, madaxda barnaamijka AI ee Google oo ah abaalmarin Nobel ah, ayaa sheegay in inkasta oo nidaamyada AI ay "run ahaantii" aanay wacyi lahayn hadda, haddana ay jirto suurtagalnimo inay mustaqbalka noqdaan. "Falsafadayaasha weli ma gaarin dheellitirka waxa wacyiga yahay.

Si kastaba ha ahaatee, haddaan macnaheeda ka dhigno nooc ka mid ah is-macquul, markaas waxaa jirta fursad ah inay AI mustaqbalka gaarto taas, " ayuu ku yidhi wareysi uu la yeeshay CBS.