Os perigos potenciais da inteligência artificial (IA) não residem apenas em sistemas de IA perseguindo objetivos que divergem das intenções humanas, mas também em sistemas de IA fazendo exatamente o que os humanos querem. A preocupação é que diferentes pessoas tenham ideias diferentes do que constitui o "bem maior" e alinhar a IA com certas visões pode ser problemático. Exemplos incluem uma IA alinhada aos interesses de Vladimir Putin ou Kim Jong Un, ou uma IA promovendo "diversidade forçada" conforme expresso por Elon Musk. Além disso, uma IA alinhada aos humanos seria tão boa, má, construtiva ou perigosa quanto as pessoas que a projetam, o que pode levar a possíveis vieses e danos. O foco atual está na alinhamento e segurança da IA para prevenir objetivos divergentes, porém menos atenção é dada aos interesses dos seres sencientes, incluindo animais.

A criação em massa de animais é um exemplo de como a IA já está sendo usada para tornar a produção e processamento mais eficientes, potencialmente resultando em maior crueldade e menos oportunidades de intervenção. O autor sugere avançar em direção ao alinhamento senciente, onde os sistemas de IA considerem o bem-estar de todos os seres sencientes, incluindo animais não humanos e até mesmo a própria IA. Isso pode significar desafiar nosso especismo atual e expandir o círculo de compaixão ao projetar tecnologia.