Cuối năm 2024, Tổng thống Trung Quốc Tập Cận Bình và Tổng thống Mỹ Joe Biden đã đạt được một thỏa thuận quan trọng rằng trí tuệ nhân tạo (AI) không bao giờ có quyền khởi xướng một cuộc chiến tranh hạt nhân. Quyết định chính sách đáng kể này xuất phát từ năm năm đối thoại trong khuôn khổ Đối thoại Track II Mỹ-Trung về Trí tuệ nhân tạo và An ninh Quốc gia, được tổ chức bởi Viện Brookings và Đại học Tsinghua. Các nghiên cứu trường hợp lịch sử từ cuộc đối đầu Mỹ-Xô trong Chiến tranh Lạnh cho thấy những thảm họa tiềm tàng nếu AI đã được áp dụng để đưa ra các quyết định quan trọng như vậy, làm nổi bật vai trò không thể thiếu của nhận thức con người trong bối cảnh hạt nhân. Ba sự kiện quan trọng minh họa cho điều này: 1. **Khủng hoảng tên lửa Cuba (1962)**: Khi tình báo Mỹ phát hiện các chuyến hàng tên lửa của Liên Xô tới Cuba, hầu hết các cố vấn khuyến nghị tấn công bằng không quân ngay lập tức, điều này có thể dẫn đến leo thang. Tổng thống John F. Kennedy đã chọn biện pháp phong tỏa hàng hải và đàm phán ngoại giao, tránh được thảm họa bằng cách khuyến khích rút lui tên lửa của Liên Xô khỏi Cuba. 2. **Khủng hoảng báo động giả tháng 9 năm 1983**: Sĩ quan Liên Xô Stanislav Petrov đã phải đối mặt với tình huống mà các cảm biến sai lệch cho thấy có cuộc tấn công tên lửa từ Mỹ.

Thay vì trả đũa ngay lập tức, ông đã suy luận đúng rằng dữ liệu này là sai, ngăn chặn được một cuộc chiến hạt nhân tiềm tàng— một phán đoán theo bản năng mà một hệ thống AI có thể không đạt được trong bối cảnh quân sự của thời kỳ đó. 3. **Cuộc tập trận Able Archer của NATO (tháng 11 năm 1983)**: Cuộc tập trận quân sự này đã làm gia tăng căng thẳng, vì các lãnh đạo Liên Xô lo sợ rằng nó che giấu một cuộc tấn công thực sự. Một tướng Mỹ đã nhận ra tiềm năng hiểu lầm của tình huống và khuyên không nên có các hành động khiêu khích, minh chứng cho sự phân biệt của con người hơn là tuân thủ các quy định. Trong những tình huống này, AI có thể đã một cách nóng vội khởi xướng các cuộc tấn công hạt nhân dựa trên những hiểu lầm về mức độ đe dọa. Quyết định của Tập và Biden cấm AI phóng vũ khí hạt nhân nhấn mạnh sự cần thiết của phán đoán con người trong các tình huống có nguy cơ cao. Mặc dù AI tiên tiến có thể hỗ trợ con người trong việc quyết định, việc dựa vào máy móc cho những lựa chọn quan trọng như vậy mang theo rủi ro đáng kể. Các nhà lãnh đạo tương lai được khuyến khích duy trì lập trường quan trọng này nhằm chống lại việc giao quyền lực cho AI trong các quyết định liên quan đến chiến tranh hạt nhân.