Pada akhir tahun 2024, Presiden China Xi Jinping dan Presiden AS Joe Biden mencapai satu perjanjian penting bahawa kecerdasan buatan (AI) tidak seharusnya mempunyai kuasa untuk memulakan perang nuklear. Keputusan dasar yang signifikan ini muncul daripada lima tahun dialog di Dialog Kecerdasan Buatan dan Keselamatan Negara AS-China di Track II, yang dianjurkan oleh Brookings Institution dan Universiti Tsinghua. Kajian kes sejarah dari persaingan AS-Soviet semasa Perang Dingin menunjukkan potensi bencana sekiranya AI digunakan untuk membuat keputusan kritikal tersebut, menekankan peranan kesedaran manusia yang tidak terpisahkan dalam konteks nuklear. Tiga insiden penting menggambarkan hal ini: 1. **Krisis Peluru Berpandu Cuba (1962)**: Apabila risikan AS menemui penghantaran peluru berpandu Soviet ke Cuba, kebanyakan penasihat menyokong untuk melakukan serangan udara segera, yang boleh mencetuskan peningkatan ketegangan. Presiden John F. Kennedy sebaliknya memilih karantina tentera laut dan negosiasi diplomatik, mengelakkan bencana dengan mendorong pengunduran peluru berpandu Soviet dari Cuba. 2. **Krisis Amaran Palsu September 1983**: Pegawai Soviet Stanislav Petrov menghadapi situasi di mana sensor secara keliru menunjukkan serangan peluru berpandu AS yang sedang menuju.

Dengan menolak tindak balas segera, beliau dengan tepat menyimpulkan bahawa data tersebut adalah salah, mengelakkan perang nuklear yang berpotensi—satu penilaian naluri yang mungkin tidak dicapai oleh sistem AI memandangkan doktrin ketenteraan pada era itu. 3. **Latihan Able Archer NATO (November 1983)**: Latihan ketenteraan ini meningkatkan ketegangan, kerana pemimpin Soviet bimbang ia menyembunyikan serangan sebenar. Seorang jeneral AS menyedari potensi salah faham dalam situasi itu dan menasihati agar tidak melakukan tindakan provokatif, menunjukkan kewibawaan manusia melebihi kepatuhan kepada protokol. Dalam senario ini, AI mungkin telah secara impulsif memulakan serangan nuklear berdasarkan salah tafsir tahap ancaman. Keputusan Xi dan Biden untuk melarang AI daripada melancarkan senjata nuklear menekankan keperluan untuk penilaian manusia dalam situasi berisiko tinggi. Walaupun AI yang maju berpotensi membantu pembuatan keputusan manusia, bergantung kepada mesin untuk pilihan kritikal tersebut membawa risiko yang besar. Pemimpin masa depan digalakkan untuk mengekalkan pendirian penting ini menentang pemberdayaan AI dalam keputusan perang nuklear.