Los peligros potenciales de la inteligencia artificial (IA) no solo radican en que los sistemas de IA persigan metas que difieren de las intenciones humanas, sino también en que hagan exactamente lo que los humanos desean. La preocupación radica en que las personas tienen ideas distintas sobre lo que constituye el "bien común" y alinear la IA con ciertas visiones puede ser problemático. Ejemplos incluyen una IA alineada con los intereses de Vladimir Putin o Kim Jong Un, o una IA que promueva una "diversidad forzada" como expresada por Elon Musk. Además, una IA alineada con los humanos será tan buena, malévola, constructiva o peligrosa como las personas que la diseñen, lo que puede generar sesgos y daños potenciales. Actualmente se centra en la alineación y la seguridad de la IA para prevenir metas divergentes, pero se presta menos atención a los intereses de los seres sintientes, incluidos los animales.

La ganadería intensiva ofrece un ejemplo de cómo la IA ya se utiliza para hacer la producción y el procesamiento más eficientes, lo que potencialmente conlleva mayor crueldad y menos oportunidades de intervención. El autor sugiere avanzar hacia una alineación con los seres sintientes, donde los sistemas de IA consideren el bienestar de todos los seres sintientes, incluidos los animales no humanos e incluso la propia IA. Esto puede significar desafiar nuestro actual especismo y expandir el círculo de compasión al diseñar tecnología.