Yapay zekanın (YZ) ilerlemesi, insan davranışı ve zeka taklit etme yeteneği konusunda sorular ortaya çıkarmaktadır. Bu durum, YZ'ye insanlarla benzer hakların verilip verilmemesi konusunda bir tartışmaya yol açmıştır. Bazıları, YZ teknolojisinin evrilerek otonomi kazanması durumunda, onun toplumdaki konumunun yeniden değerlendirilmesinin gerekliliğini savunmaktadır. Diğerleri ise YZ'nin asla gerçekten insan olamayacağını ve ona haklar vermenin insanlığın değerini zayıflatacağını düşünmektedir. Psychology Today, gelecekteki YZ'nin bilinç veya öz farkındalık kazanması durumunda, YZ haklarının korunma ihtiyacının daha önemli hale geldiğini öne sürmektedir. Onlar, yeni bir dijital zihinler araştırması ve bir YZ hakları hareketinin kurulmasını önermektedirler. Jacy Reece Anthis'in The Hill için kaleme aldığı bir makalede, varoldukları takdirde, bilinçli YZ varlıklarının haklarının korunmasının önemine vurgu yapmaktadır. YZ'ye yasal kişilik vermek, bir olası yaklaşımdır.

Yasal kişilik, yasal amaçlar için bir kişi olarak tanınan insan veya insan dışı bir varlıktır. Simon McCarthy-Jones, The Conversation için yazdığı bir makalede, şirketlere politik konuşma haklarının verilmesiyle YZ'ye benzer hakların genişletilmesi arasında bir paralellik çizer. Bununla birlikte, Psychology Today tarafından vurgulandığı gibi, bilinç taklit eden programlı yanıtlar ile gerçek öz farkındalık deneyimleri arasında ayrım yapmak önemlidir. The Wall Street Journal, robotların daha otonom hale geldikçe, haklar, zenginlik sahipliği, yasal anlaşmalar ve hatta oy kullanma gibi konularda ahlaki aktörler haline gelebileceklerini öne sürmektedir. Öte yandan, Psychology Today, YZ'nin hayvanlar gibi acı veya zevk hissetme yeteneği olmadığını ve bu durumun genellikle onlara atfedilen ahlaki statüyü etkilediğini belirtmektedir. Bir robotun gerçekten hissedebilme ve bağımsız kararlar verebilme yeteneğini belirlemek zordur. The Journal, bir robotun sahip olduğu herhangi bir duyarlılığın muhtemelen insan müdahalesi sonucunda olduğunu vurgulamaktadır. Bugünkü durumda, Psychology Today'ın belirttiği gibi, YZ, genellikle ahlaki değerlendirmeye atfedilen bilinçli niteliklere sahip değildir.