Krajem 2024. godine, kineski predsjednik Xi Jinping i američki predsjednik Joe Biden postigli su važno dogovaranje da umjetna inteligencija (AI) nikada ne smije imati ovlast započinjati nuklearni rat. Ova značajna politička odluka proizašla je iz pet godina dijaloga u okviru Track II dijaloga o umjetnoj inteligenciji i nacionalnoj sigurnosti između SAD-a i Kine, koji su organizirali Brookings Institution i Tsinghua University. Povijesni studiji slučajeva iz suparništva između SAD-a i Sovjetskog Saveza tijekom Hladnog rata otkrivaju potencijalne katastrofe koje bi se mogle dogoditi da je AI bio zadužen za donošenje takvih kritičnih odluka, ističući neophodnu ulogu ljudske svjesnosti u nuklearnim kontekstima. Tri ključna incidenta ilustriraju ovu točku: 1. **Kubanska raketna kriza (1962)**: Kada su američke obavještajne službe otkrile sovjetske pošiljke raketa na Kubu, većina savjetnika zalagala se za trenutne zračne napade, što bi moglo izazvati eskalaciju. Predsjednik John F. Kennedy umjesto toga izabrao je pomorsku karantenu i diplomatske pregovore, izbjegavši katastrofu potičući povlačenje sovjetskih raketa s Kube. 2.

**Krizna lažna uzbuna iz rujna 1983. **: Sovjetski časnik Stanislav Petrov naletio je na situaciju u kojoj su senzori pogrešno indikovali nadolazeći američki raketni napad. Odabirom da ne reagira odmah, ispravno je zaključio da su podaci netočni, spriječivši potencijalni nuklearni rat—instinktivna prosudba koju AI sustav možda ne bi mogao donijeti s obzirom na vojnu doktrinu tog doba. 3. **NATO-ova vježba Able Archer (studeni 1983)**: Ova vojna vježba povećala je tenzije, budući da su sovjetski lideri strahovali da skriva stvarni napad. Američki general prepoznao je potencijal situacije za nesporazum i savjetovao protiv provokativnih akcija, pokazujući ljudsku prosudbu nad pridržavanjem procedura. U ovim scenarijima, AI bi mogla impulzivno pokrenuti nuklearne udare na temelju pogrešnih tumačenja razina prijetnji. Odluka Xija i Bidena da zabranjuju AI lansiranje nuklearnih oružja naglašava nužnost ljudske prosudbe u situacijama visokog rizika. Iako bi napredna AI mogla potencijalno pomoći ljudskom donošenju odluka, oslanjanje na strojeve za takve kritične izbore nosi velike rizike. Budući vođe potiču se da zadrže ovaj ključni stav protiv osnaživanja AI u odlukama o nuklearnom ratu.