Alla fine del 2024, il presidente cinese Xi Jinping e il presidente statunitense Joe Biden hanno raggiunto un accordo cruciale secondo cui l'intelligenza artificiale (IA) non dovrebbe mai avere l'autorità di avviare una guerra nucleare. Questa significativa decisione politica è emersa da cinque anni di dialogo nel Dialogue Track II USA-Cina su Intelligenza Artificiale e Sicurezza Nazionale, organizzato dalla Brookings Institution e dall'Università Tsinghua. Gli studi di caso storici della rivalità USA-URSS durante la Guerra Fredda rivelano potenziali catastrofi se l'IA fosse stata in grado di prendere tali decisioni critiche, evidenziando il ruolo indispensabile della consapevolezza umana in contesti nucleari. Tre incidenti fondamentali illustrano questo punto: 1. **La crisi dei Missili di Cuba (1962)**: Quando l'intelligence statunitense scoprì spedizioni di missili sovietici a Cuba, la maggior parte dei consiglieri raccomandò attacchi aerei immediati, che avrebbero potuto provocare un'escalation. Il presidente John F. Kennedy scelse invece una quarantena navale e negoziati diplomatici, evitando il disastro incoraggiando il ritiro dei missili sovietici da Cuba. 2. **La crisi dell'allerta falsa di settembre 1983**: L'ufficiale sovietico Stanislav Petrov si trovò di fronte a una situazione in cui i sensori indicavano erroneamente un attacco missilistico in arrivo dagli Stati Uniti.

Scegliendo di non rispondere immediatamente, dedusse correttamente che i dati erano errati, prevenendo una potenziale guerra nucleare—un giudizio istintivo che un sistema IA potrebbe non aver raggiunto data la dottrina militare dell'epoca. 3. **Esercitazione Able Archer della NATO (novembre 1983)**: Questa esercitazione militare innalzò le tensioni, poiché i leader sovietici temevano che celasse un attacco reale. Un generale statunitense riconobbe il potenziale di malinteso della situazione e sconsigliò azioni provocatorie, dimostrando il discernimento umano rispetto all'aderenza ai protocolli. In questi scenari, l'IA avrebbe potuto avviare impulsivamente attacchi nucleari basati su interpretazioni errate dei livelli di minaccia. La decisione di Xi e Biden di vietare all'IA di lanciare armi nucleari sottolinea la necessità del giudizio umano in situazioni ad alto rischio. Sebbene l'IA avanzata possa potenzialmente supportare il processo decisionale umano, fare affidamento sulle macchine per tali scelte critiche comporta rischi significativi. I futuri leader sono incoraggiati a mantenere questa posizione cruciale contro l'emancipazione dell'IA nelle decisioni riguardanti la guerra nucleare.