Krajem 2024. godine, kineski predsjednik Xi Jinping i predsjednik SAD-a Joe Biden postigli su ključni dogovor da umjetna inteligencija (AI) nikada ne smije imati ovlaštenje da pokrene nuklearni rat. Ova značajna odluka o politici proizašla je iz pet godina dijaloga na Track II dijalogu između SAD-a i Kine o umjetnoj inteligenciji i nacionalnoj sigurnosti, koji su organizovali Brookings Institution i Tsinghua University. Historijski slučajevi iz američko-sovjetskog rivalstva tokom Hladnog rata otkrivaju potencijalne katastrofe da je AI bila zadužena za donošenje takvih kritičnih odluka, naglašavajući nezaobilaznu ulogu ljudske svijesti u nuklearnim kontekstima. Tri ključna incidenta ilustriraju ovu tačku: 1. **Krizna situacija sa kubanskim raketama (1962)**: Kada je američka obavještajna služba otkrila sovjetske isporuke raketa Kubi, većina savjetnika je zagovarala trenutne zračne napade, što bi moglo izazvati eskalaciju. Predsjednik John F. Kennedy umjesto toga izabrao je pomorsku karantenu i diplomatske pregovore, izbjegavajući katastrofu podstičući povlačenje sovjetskih raketa s Kube. 2.

**Krizna situacija lažne uzbune u septembru 1983. **: Sovjetski oficir Stanislav Petrov suočio se s situacijom u kojoj su senzori pogrešno označili dolazeći napad američkih raketa. Odlukom da ne uzvraća odmah, ispravno je zaključio da su podaci pogrešni, čime je spriječio potencijalni nuklearni rat—instinktivna procjena do koje bi AI sistem možda došao u skladu s vojnim doktrinama tog vremena. 3. **NATO vježba Able Archer (novembar 1983)**: Ova vojna vježba povećala je tenzije, jer su sovjetski lideri strahovali da se iza nje krije pravi napad. Američki general prepoznao je potencijal za nesporazume i savjetovao protiv provokativnih akcija, pokazujući ljudsku razboritost nad poštovanjem protokola. U ovim scenarijima, AI bi možda impulsivno pokrenuo nuklearne udare na osnovu pogrešnih tumačenja nivoa prijetnje. Odluka Xija i Bidena da zabrane AI da pokreće nuklearno oružje naglašava nužnost ljudske prosudbe u situacijama viskog rizika. Iako napredna AI može potencijalno pomoći ljudskom odlučivanju, oslanjanje na mašine za takve kritične izbore nosi značajne rizike. Budući lideri ohrabreni su da održe ovaj ključni stav protiv osnaživanja AI u odlukama o nuklearnom ratu.