China streeft ernaar om een kunstmatige algemene intelligentie (AGI) te ontwikkelen die de menselijke intelligentie overtreft, wat mogelijk sneller gebeurt dan in de VS. Deze vooruitgang zou echter de invloed van de Communistische Partij op de Chinese economie kunnen verzwakken. AI-deskundige Max Tegmark noemt deze technologische race tussen de VS en China een "zelfmoordrace" vanwege de inherente gevaren. Tegmark waarschuwt dat AGI mogelijk eerder komt dan verwacht, maar dat er onvoldoende controles zijn om risico's te beheersen. Hoewel sommige technologieleiders zoals Sam Altman van OpenAI AGI al in 2025 voorspellen, geloven anderen dat dit nog ver weg is. De VS en China concurreren fel op het gebied van AI en chiptechnologie, waarbij Tegmark suggereert dat dit komt door een misplaatst geloof dat AGI te beheersen is. Deze "hopium oorlog" kan ernstige gevolgen hebben als AGI menselijke regelgeving overtreft. China zelf vreest AGI omdat het de autoriteit van de Communistische Partij zou kunnen uitdagen, en recente AI-regelgeving wijst op deze bezorgdheid. China heeft AI gepromoot en zwaar geïnvesteerd in bedrijven als Alibaba en Tencent om geavanceerde modellen te ontwikkelen, terwijl het strikte regelgeving handhaaft om de AI-ontwikkeling in lijn te brengen met staatsbelangen.

Analisten denken dat China AGI-dominantie nastreeft terwijl het de binnenlandse impact beheerst. Ondanks Tegmarks waarschuwingen bekijken beide landen AI als een geopolitiek voordeel en economische groei. De VS heeft geprobeerd China's toegang tot cruciale technologie te beperken, terwijl China in reactie daarop zijn halfgeleiderindustrie opbouwt. Tegmark voorziet afzonderlijke veiligheidsnormen van beide landen om AGI-risico's zelf te reguleren, wat zou kunnen leiden tot internationale samenwerking om ongecontroleerde AGI-ontwikkeling elders, zoals in Noord-Korea, te voorkomen. Initiatieven voor wereldwijde AI-veiligheidsregelgeving zijn gaande, zoals een door het VK georganiseerde top en besprekingen over internationale governance. Desalniettemin blijven AI-regelgeving wereldwijd uiteenlopend, met gefragmenteerde pogingen om veiligheidsproblemen aan te pakken. Trivium China's Schaefer benadrukt een Chinees pleidooi voor een internationale governance-instantie, vergelijkbaar met die voor kernenergiebeheer, om toezicht te houden op AI.