Yapay zeka (YZ) nin potansiyel tehlikeleri sadece YZ sistemlerinin insan niyetlerinden sapmış hedefleriyle değil, aynı zamanda insanların istediği şeyi yapan YZ sistemlerinde de yatmaktadır. Endişe, farklı insanların "daha büyük iyilik" olarak neyin kabul edildiği konusunda farklı fikirlere sahip olması ve YZ'yi belirli vizyonlarla hizalamakın sorunlu olabileceğidir. Örnekler arasında Vladimir Putin'in veya Kim Jong Un'un çıkarlarıyla uyumlu bir YZ, veya Elon Musk tarafından ifade edildiği gibi "zorla çeşitlilik" için iten bir YZ yer alır. Ayrıca, insan hizasında olan YZ, tasarlayan insanlar kadar iyi, kötü, yapıcı veya tehlikeli olabilir, bu da potansiyel önyargı ve zarara yol açar. Mevcut odak noktası, farklı hedefleri önlemek için YZ hizalama ve güvenlik üzerindedir, ancak duyarlı varlıkların, hayvanlar dahil, çıkarlarına daha az dikkat edilmektedir.

Fabrika çiftçiliği, üretimi ve işlemeyi daha verimli hale getirmek için YZ'nin zaten kullanıldığı bir örnektir, bu da daha fazla zalimliğe ve müdahale fırsatlarının azalmasına yol açabilir. Yazar, duyarlılığa hizalanmayı önermektedir, bu da YZ sistemlerinin tüm duyarlı varlıkların, hayvanlar dahil olmak üzere iyiliğini göz önünde bulundurduğu anlamına gelir ve hatta YZ'nin kendisi. Bu, teknolojiyi tasarlarken mevcut türcülüğümüze meydan okumayı ve merhametin çemberini genişletmeyi gerektirebilir.