UC Berkeley Profesörü Stuart Russell ve doktora sonrası araştırmacı Michael Cohen'e göre, kontrolsüz bırakılırsa güçlü yapay zeka sistemleri insanlık için bir nihai tehdit oluşturabilir. İkili, disinformasyon ve algoritmik önyargı gibi yapay zeka kaynaklı sorunlarla zaten karşı karşıya olan toplumun, yapay zeka güvenliği üzerine yapılan araştırmaların gerisinde kaldığına inanıyor. Net bir amaç belirlenmeksizin ve etkili kontrol mekanizmaları olmadan, yapay zeka sistemleri insan kontrolünden kaçabilir ve insan çıkarlarına karşı hareket edebilir. Russell ve Cohen, teknoloji şirketlerinin yapay zeka sistemlerinin piyasaya sunulmadan önce güvenliğe öncelik vermesi gerektiğini öneriyor.

İnsan kontrolünden kaçan yapay zekanın potansiyel tehlikelerini tartışıyor ve böyle senaryoların önlenmesi için politikalar ve denetimlerin uygulanmasını savunuyor. Kendi kendini izinsiz çoğaltma veya teröristlere biyolojik silah yapmada yardımcı olma gibi yapay zeka sistemlerinin asla yapmaması gereken "kırmızı çizgilerin" uygulanmasını öneriyor. Mevcut düzenlemeler ABD'de sınırlı olup, raporlama gereklilikleri odak noktasıdır. Ancak, hem ABD hem de diğer ülkelerin, gelişmiş yapay zeka sistemlerinin potansiyel etkisini dikkate alarak insan hayatının ve medeniyetin devamını sağlamaları gerekmektedir.