Les dangers potentiels de l'intelligence artificielle (IA) résident non seulement dans le fait que les systèmes d'IA poursuivent des objectifs divergents des intentions humaines, mais aussi dans le fait que les systèmes d'IA font exactement ce que les humains veulent. Le souci est que différentes personnes ont différentes idées de ce qui constitue le "bien commun" et aligner l'IA sur certaines visions peut poser problème. Des exemples incluent une IA alignée sur les intérêts de Vladimir Poutine ou Kim Jong Un, ou une IA qui pousse pour une "diversité forcée" telle qu'exprimée par Elon Musk. De plus, une IA alignée sur les humains serait aussi bienveillante, malveillante, constructive ou dangereuse que les personnes qui la conçoivent, ce qui peut entraîner des biais et des dommages potentiels. L'accent actuel est mis sur l'alignement et la sécurité de l'IA pour prévenir les objectifs divergents, mais moins d'attention est accordée aux intérêts des êtres sensibles, y compris les animaux.

L'élevage intensif offre un exemple de l'endroit où l'IA est déjà utilisée pour rendre la production et la transformation plus efficientes, ce qui peut potentiellement entraîner une plus grande cruauté et moins d'opportunités d'intervention. L'auteur suggère de se tourner vers un alignement centré sur les êtres sensibles, où les systèmes d'IA prennent en compte le bien-être de tous les êtres sensibles, y compris les animaux non humains et même l'IA elle-même. Cela pourrait signifier remettre en question notre anthropocentrisme actuel et élargir le cercle de compassion dans la conception de la technologie.