Наприкінці 2024 року китайський президент Сі Цзіньпін та президент США Джо Байден досягли важливої угоди про те, що штучний інтелект (ШІ) ніколи не повинен мати повноважень ініціювати ядерну війну. Це важливе політичне рішення стало результатом п’яти років діалогу в рамках Діалогу США-Китаю щодо штучного інтелекту та національної безпеки, організованого Інститутом Брукінгса та Університетом Ціньхуа. Історичні випадки з суперництва США та СРСР під час Холодної війни демонструють потенційні катастрофи, якби ШІ використовувався для прийняття таких критично важливих рішень, підкреслюючи невід'ємну роль людської усвідомленості в ядерних контекстах. Три ключові інциденти ілюструють цю точку: 1. **Кубинська ракетна криза (1962)**: Коли американська розвідка виявила радянські постачання ракет на Кубу, більшість радників виступала за негайні авіаудари, що могло спровокувати ескалацію. Президент Джон Ф. Кеннеді обрав морську блокаду та дипломатичні переговори, уникнувши катастрофи, заохочуючи виведення радянських ракет з Куби. 2. **Кризу помилкового сигналу у вересні 1983 року**: Радянський офіцер Станіслав Петров опинився в ситуації, коли датчики помилково повідомили про напад ракет США.

Вибравши не вдаватися до негайної відплати, він правильно зрозумів, що дані були помилковими, запобігши потенційній ядерній війні — інстинктивне рішення, якого Системі ШІ, можливо, не вдалося б ухвалити з огляду на військову доктрину того часу. 3. **Військові навчання НАТО "Able Archer" (листопад 1983)**: Це військове навчання підвищило напруженість, оскільки радянські лідери боялися, що воно приховує реальну атаку. Один з американських генералів усвідомив потенціал для непорозуміння і порадив утриматися від провокаційних дій, демонструючи людську прозорливість над дотриманням протоколу. У цих сценаріях ШІ міг би імпульсивно ініціювати ядерні удари на основі неправильного тлумачення рівнів загрози. Рішення Сі та Байдена заборонити ШІ запускати ядерну зброю підкреслює необхідність людського судження в ситуаціях з високими ставками. Хоча просунутий ШІ може потенційно допомагати людському прийняттю рішень, покладання на машини для таких критично важливих виборів несе значні ризики. Майбутні лідери заохочуються підтримувати цю ключову позицію проти розширення повноважень ШІ у рішеннях про ядерну війну.