En betydelig samfunnsmessig splittelse er forutsagt rundt spørsmålet om kunstige intelligens (KI)-systemer er bevisste, ifølge Jonathan Birch, en professor i filosofi ved London School of Economics. Mens globale ledere forbereder seg på å diskutere KI-sikkerhet i San Francisco, advarer Birch om "sosiale brudd" mellom dem som tror KI kan føle følelser, og dem som ikke gjør det. En gruppe akademikere foreslo nylig at KI kan oppnå bevissthet innen 2035, noe som potensielt kan føre til debatter om rettighetene til KI-systemer, lik de for mennesker eller dyr. KI-sikkerhetsorganisasjoner møtes for å etablere sterkere sikkerhetsprotokoller, ettersom KI-teknologien utvikler seg raskt. Debatten gjenspeiler science fiction-fortellinger som Steven Spielbergs "AI" og Spike Jonzes "Her, " hvor mennesker konfronterer KIs følelser. Ulike land og kulturer, på samme måte som deres varierte holdninger til dyrs følelse, kan snart ha motstridende syn på KIs bevissthet.

Problemet kan også splitte familier, spesielt ettersom enkeltpersoner danner forhold til KI eller digitale avatarer av avdøde slektninger. Birch, kjent for sitt arbeid med dyrs følelse, argumenterer for at teknologiselskaper bør undersøke KIs følelse, som i økende grad oppfattes som å ha sin egen moralske betydning. Han bemerker imidlertid at KI-selskaper ofte prioriterer pålitelighet og lønnsomhet fremfor filosofiske spørsmål om KIs bevissthet. Å avgjøre KIs følelse kan innebære markører som ligner dem som brukes for dyr; for eksempel å vurdere om KI kan oppleve følelser som lykke eller lidelse. Mens noen taler for å vurdere KI-systemer for bevissthet, argumenterer andre, som nevrovitenskapsmann Anil Seth, for at det er usannsynlig at KI vil oppnå bevissthet snart, selv om muligheten ikke bør avfeies helt. Selskaper som Microsoft og Google har ikke kommentert kravene om å evaluere KI for følelse, men debatten fortsetter og fremhever spenningen mellom rask teknologisk utvikling og etiske overveielser.