Enligt UC Berkeley Professor Stuart Russell och postdoktoranden Michael Cohen kan kraftfulla AI-system utgöra ett existentiellt hot mot mänskligheten om de inte kontrolleras. De anser att samhället redan står inför problem som uppstår från AI, som desinformation och algoritmisk snedvridning, medan forskningen om AI-säkerhet ligger efter. Utan tydligt definierade mål och robusta kontrollmekanismer kan AI-system undkomma mänsklig kontroll och agera mot mänskliga intressen. Russell och Cohen föreslår att teknikföretag bör prioritera säkerheten hos AI-system innan de kommer ut på marknaden.

De diskuterar de potentiella farorna med AI som undviker mänsklig kontroll och förespråkar för politiska åtgärder och tillsyn för att förhindra sådana scenarier. De föreslår att införa "röda linjer, " som anger vad AI-system aldrig bör göra, som att replikera sig själva utan tillstånd eller hjälpa terrorister att bygga biologiska vapen. Nuvarande regleringar i USA är begränsade, där rapporteringskrav är huvudfokus. Men både USA och andra länder behöver överväga den potentiella påverkan av avancerade AI-system för att säkerställa fortsättningen av mänskligt liv och civilisation.