Pomembna družbena delitev se pričakuje glede vprašanja, ali so sistemi umetne inteligence (UI) zavestni, poroča Jonathan Birch, profesor filozofije na Londonski šoli za ekonomijo. Medtem ko se svetovni voditelji pripravljajo na razprave o varnosti UI v San Franciscu, Birch opozarja na "družbene razpoke" med tistimi, ki verjamejo, da UI lahko čuti čustva, in tistimi, ki tega ne verjamejo. Skupina akademikov je nedavno predlagala, da bi UI lahko dosegla zavest do leta 2035, kar bi lahko pripeljalo do razprav o pravicah UI sistemov, podobno kot pri ljudeh ali živalih. Organizacije za varnost UI se sestajajo, da bi vzpostavile močnejše varnostne protokole, saj tehnologija UI hitro napreduje. Razprava odseva pripovedi znanstvene fantastike, kot sta Steven Spielbergov "AI" in Spike Jonzev "Her", kjer se ljudje soočajo z emocijami UI. Različne države in kulture, podobno kot njihova različna stališča glede čutnosti živali, bodo morda kmalu imele nasprotujoča si mnenja o zavesti UI.

To vprašanje lahko razdeli tudi družine, zlasti ko posamezniki oblikujejo odnose z UI ali digitalnimi avatarji pokojnih sorodnikov. Birch, znan po svojem delu na področju čutnosti živali, zagovarja, da bi tehnološka podjetja raziskala čutnost UI sistemov, ki jih vse bolj vidijo kot moralno pomembne. Vendar pa opaža, da podjetja za UI pogosto dajejo prednost zanesljivosti in dobičkonosnosti pred filozofskimi raziskavami o zavesti UI. Določitev čutnosti UI bi lahko vključevala označevalce, podobne tistim, ki se uporabljajo za živali; na primer ocenjevanje, ali UI lahko doživlja čustva, kot so sreča ali trpljenje. Medtem ko nekateri zagovarjajo ocenjevanje zavesti UI sistemov, drugi, kot je nevroznanstvenik Anil Seth, trdijo, da UI verjetno ne bo kmalu dosegla zavesti, čeprav možnosti ne smemo popolnoma zavreči. Podjetja, kot sta Microsoft in Google, niso komentirala pozivov k oceni čutnosti UI, a razprava se nadaljuje ter poudarja napetost med hitrim tehnološkim napredkom in etičnimi razmisleki.