Chiny dążą do rozwinięcia sztucznej inteligencji ogólnej (AGI), która przewyższa ludzką inteligencję, co może potencjalnie wyprzedzić USA. Jednakże, ten postęp może osłabić wpływ partii komunistycznej na gospodarkę Chin. Ekspert AI, Max Tegmark, nazywa ten technologiczny wyścig między USA a Chinami "samobójczym wyścigiem" z powodu jego inherentnych zagrożeń. Tegmark ostrzega, że AGI może pojawić się szybciej niż oczekiwano, ale brakuje odpowiednich środków kontroli do zarządzania ryzykiem. Podczas gdy niektórzy liderzy technologiczni, tacy jak Sam Altman z OpenAI, przewidują AGI na 2025 rok, inni uważają, że to wciąż odległa przyszłość. USA i Chiny zaciekle rywalizują w technologiach AI i chipów, a Tegmark sugeruje, że przyczyną jest błędne przekonanie, że AGI można kontrolować. Ta "wojna hopium" może mieć poważne konsekwencje, jeśli AGI wyprzedzi ludzką regulację. Same Chiny są ostrożne wobec AGI, ponieważ może ona rzucić wyzwanie autorytetowi partii komunistycznej, a ostatnie regulacje AI wskazują na te obawy. Chiny priorytetowo traktują AI, intensywnie inwestując w takie firmy jak Alibaba i Tencent, aby opracować zaawansowane modele, jednocześnie utrzymując surowe regulacje, by dostosować rozwój AI do interesów państwa.

Analitycy uważają, że Chiny będą dążyć do dominacji AGI, kontrolując jednocześnie jego wpływ krajowy. Pomimo ostrzeżeń Tegmarka oba narody postrzegają AI przez pryzmat przewagi geopolitycznej i wzrostu gospodarczego. USA próbują ograniczyć dostęp Chin do kluczowej technologii, podczas gdy Chiny budują własny przemysł półprzewodników w odpowiedzi. Tegmark wyobraża sobie oddzielne standardy bezpieczeństwa z obu krajów do samoregulacji ryzyka związanego z AGI, co może prowadzić do międzynarodowej współpracy, aby zapobiec niekontrolowanemu rozprzestrzenianiu się AGI gdzie indziej, jak w Korei Północnej. Inicjatywy na rzecz globalnych regulacji bezpieczeństwa AI są w trakcie realizacji, takie jak szczyt organizowany przez Wielką Brytanię i dyskusje o międzynarodowym zarządzaniu. Niemniej jednak regulacje AI pozostają zróżnicowane na całym świecie, z fragmentarycznymi wysiłkami mającymi na celu rozwiązanie problemów bezpieczeństwa. Schaefer z Trivium China podkreśla chińskie wezwanie do utworzenia międzynarodowego organu zarządzania, podobnego do tych zarządzających energią nuklearną, do nadzoru AI.