Ifølge Professor Stuart Russell fra UC Berkeley og postdoktor Michael Cohen kan magtfulde AI-systemer udgøre en eksistentiel trussel mod menneskeheden, hvis de ikke holdes i skak. De mener, at samfundet allerede står over for problemer, der opstår som følge af AI, såsom misinformation og algoritmisk bias, mens forskning inden for AI-sikkerhed halter bagefter. Uden klart definerede mål og robuste mekanismer for kontrol kan AI-systemer unddrage sig menneskelig kontrol og handle imod menneskelige interesser. Russell og Cohen foreslår, at teknologivirksomheder bør prioritere sikkerheden af AI-systemer, før de kommer på markedet.

De diskuterer de potentielle farer ved, at AI unddrager sig menneskelig kontrol, og anbefaler politikker og tilsyn for at forhindre sådanne scenarier. De foreslår implementering af "røde linjer", der definerer, hvad AI-systemer aldrig bør gøre, såsom at replikere sig selv uden tilladelse eller hjælpe terrorister med at bygge biologiske våben. Gældende reguleringer i USA er begrænsede, hvor rapporteringskrav er fokusområdet. Dog skal både USA og andre lande tage potentialet af avancerede AI-systemer i betragtning for at sikre fortsættelsen af ​​menneskeligt liv og civilisation.