Kína arra törekszik, hogy olyan mesterséges általános intelligenciát (AGI) fejlesszen ki, amely meghaladja az emberi intelligenciát, és potenciálisan megelőzi az Egyesült Államokat. Ez a fejlődés azonban gyengítheti a Kommunista Párt befolyását Kína gazdaságára. Max Tegmark AI-szakértő ezt az amerikai-kínai technológiai versenyt "öngyilkos versenynek" nevezi annak veszélyei miatt. Tegmark arra figyelmeztet, hogy az AGI korábban megérkezhet, mint várnánk, de hiányoznak azok az ellenőrzések, amelyek szükségesek a kockázatok kezeléséhez. Míg néhány technológiai vezető, például Sam Altman, az OpenAI-tól 2025-re jósolja az AGI megjelenését, mások úgy vélik, hogy még messze van. Az USA és Kína hevesen verseng az AI és a chip technológia terén, Tegmark szerint egy téves hit miatt, hogy az AGI irányítható. Ez a "hopium háború" súlyos következményekkel járhat, ha az AGI túlszárnyalja az emberi szabályozást. Maga Kína is óvatos az AGI-val szemben, mivel az megkérdőjelezheti a Kommunista Párt hatalmát, és a közelmúltbeli AI szabályozások is erre a félelemre utalnak. Kína prioritásként kezeli az AI-t, jelentős befektetésekkel támogatva olyan cégeket, mint az Alibaba és a Tencent, hogy fejlett modelleket fejlesszenek ki, miközben szigorú szabályozásokat tartanak fenn annak érdekében, hogy az AI fejlődése állami érdekekkel összhangban maradjon.

Elemzők úgy vélik, hogy Kína az AGI dominanciájára törekszik, miközben ellenőrzi annak hazai hatásait. Tegmark figyelmeztetései ellenére mindkét nemzet geopolitikai előnyök és gazdasági növekedés szempontjából tekint az AI-ra. Az USA megpróbálta korlátozni Kína hozzáférését a kulcsfontosságú technológiákhoz, míg Kína válaszul saját félvezetőiparát építi. Tegmark elképzelései szerint mindkét nemzet különálló biztonsági szabványokat hozhat létre az AGI kockázatok önszabályozására, ami nemzetközi együttműködéshez vezethet az ellenőrizetlen AGI elterjedésének megakadályozására másutt, például Észak-Koreában. Elindultak a globális AI biztonsági szabályozások kezdeményezései, mint például az Egyesült Királyság által szervezett csúcstalálkozó és a nemzetközi irányításról szóló megbeszélések. Mindazonáltal az AI-szabályozások világszerte eltérőek, és széttagolt erőfeszítések mutatkoznak a biztonsági aggályok kezelésére. A Trivium China-tól Schaefer kiemeli, hogy Kína egy nemzetközi irányító testületet szorgalmaz, amely hasonló a nukleáris energia kezelésére létrehozott szervezetekkel az AI-felügyelet érdekében.