В края на 2024 г. китайският президент Си Цзинпин и президентът на САЩ Джо Байдън постигнаха важен договор, според който изкуственият интелект (ИИ) никога не трябва да има властта да инициира ядрена война. Това значимо политическо решение произтича от петгодишен диалог по втори канал в рамките на диалога между САЩ и Китай относно изкуствения интелект и националната сигурност, организиран от института Брукингс и университета Цинхуа. Исторически казуси от съперничеството между САЩ и Съветския съюз по време на Студената война разкриват потенциални катастрофи, ако ИИ беше в състояние да взема такива критични решения, подчертавайки незаменимата роля на човешкото осъзнаване в ядрени контексти. Три ключови инцидента илюстрират тази точка: 1. **Кубинската ракетна криза (1962)**: Когато американското разузнаване откри доставки на съветски ракети за Куба, повечето съветници настояваха за незабавни въздушни удари, които можеха да предизвикат ескалация. Президентът Джон Ф. Кенеди вместо това избра морска карантина и дипломатически преговори, избягвайки бедствието чрез насърчаване на оттеглянето на съветските ракети от Куба. 2. **Кризата от септември 1983 г.

с фалшив сигнал**: Съветският офицер Станислав Петров се сблъскал с ситуация, в която датчиците погрешно показали, че в САЩ идва нападение с ракети. Избирайки да не реагира веднага, той правилно заключил, че данните са грешни, предотвратявайки потенциална ядрена война — инстинктивна преценка, до която ИИ системата може би нямаше да достигне, имайки предвид военната доктрина на епохата. 3. **Военната тренировка на НАТО Able Archer (ноември 1983 г. )**: Това военно учение повиши напрежението, тъй като съветските лидери се страхуваха, че то прикрива реална атака. Американски генерал осъзна потенциала за неправилно разбиране на ситуацията и съветва против провокативни действия, демонстрирайки човешка преценка над следването на протоколи. В тези сценарии ИИ би могъл импулсивно да инициира ядрени удари, базирани на погрешни тълкувания на заплахите. Решението на Си и Байдън да забранят на ИИ да стартира ядрени оръжия подчертава необходимостта от човешка преценка в ситуации с висок риск. Докато напредналият ИИ потенциално може да помогне в човешкото вземане на решения, разчитането на машини за такива критични избори носи значителни рискове. Бъдещите лидери са насърчени да поддържат тази решаваща позиция срещу предоставянето на власт на ИИ в решенията за ядрена война.