A finals del 2024, el president xinès Xi Jinping i el president nord-americà Joe Biden van arribar a un acord crucial que l'intel·ligència artificial (IA) mai hauria de tenir l'autoritat per iniciar una guerra nuclear. Aquesta important decisió política va néixer de cinc anys de diàleg al Diàleg de Segment II EUA-Xina sobre Intel·ligència Artificial i Seguretat Nacional, organitzat per la Brookings Institution i la Universitat Tsinghua. Estudis de casos històrics de la rivalitat EUA-Soviètica durant la Guerra Freda revelen les possibles catàstrofes que s'haurien pogut donar si la IA hagués estat responsable de prendre decisions tan crítiques, destacant el paper indispensable de la consciència humana en contextos nuclears. Tres incidents fonamentals il·lustren aquest punt: 1. **La crisi dels míssils cubans (1962)**: Quan els serveis d'intel·ligència nord-americans van descobrir enviaments de míssils soviètics a Cuba, la majoria dels assessors van advocar per atacs aèris immediats, que podrien haver provocat una escalada. El president John F. Kennedy, en canvi, va optar per una quarantena naval i negociacions diplomàtiques, evitant la catàstrofe al fomentar la retirada dels míssils soviètics de Cuba. 2. **La crisi de falsa alarma de setembre de 1983**: L'oficial soviètic Stanislav Petrov es va enfrontar a una situació en què els sensors indicaven erròniament un atac missil nord-americà imminent.

En no optar per una represàlia immediata, va deduir correctament que les dades eren errònies, prevenint una potencial guerra nuclear—un judici instintiu que un sistema d'IA podria no haver assolit donada la doctrina militar de l'era. 3. **L'exercici Able Archer de l'OTAN (novembre de 1983)**: Aquest exercici militar va augmentar les tensions, ja que els líders soviètics temien que amagava un atac real. Un general nord-americà va reconèixer el potencial de malentès de la situació i va desaconsellar accions provocatives, mostrant la discerniment humà per sobre de l'adhesió als protocols. En aquests escenaris, la IA podria haver iniciat impulsivament atacs nuclears basats en interpretacions equivocades dels nivells de la amenaça. La decisió de Xi i Biden de prohibir que la IA llanci armes nuclears subratlla la necessitat del judici humà en situacions d'alta tensió. Tot i que la IA avançada podria potencialment ajudar en la presa de decisions humanes, dependre de màquines per a eleccions tan crítiques comporta riscos significatius. Es recomana als futurs líders mantenir aquesta postura fonamental contra l'empoderament de la IA en les decisions sobre guerra nuclear.