در اواخر سال ۲۰۲۴، رئیس‌جمهور چین، شی جین‌پین و رئیس‌جمهور ایالات متحده، جو بایدن به توافق مهمی دست یافتند که طبق آن، هوش مصنوعی (AI) هرگز نباید اختیار آغاز یک جنگ هسته‌ای را داشته باشد. این تصمیم سیاست‌گذاری مهم از پنج سال گفتگو در چارچوب گفت‌و‌گوی Track II ایالات متحده و چین در مورد هوش مصنوعی و امنیت ملی، که توسط مؤسسه بروکینگز و دانشگاه تسینگهوا سازماندهی شده بود، ناشی شد. مطالعات موردی تاریخی از رقابت ایالات متحده و اتحاد جماهیر شوروی در دوران جنگ سرد، نشان‌دهنده فاجعه‌های بالقوه‌ای است که اگر هوش مصنوعی در اتخاذ چنین تصمیمات حیاتی دخالت داشت، به وجود می‌آورد، و نقش ضروری آگاهی انسانی را در زمینه‌های هسته‌ای برجسته می‌کند. سه حادثه کلیدی این نکته را روشن می‌سازد: ۱. **بحران موشکی کوبا (۱۹۶۲)**: زمانی که اطلاعات ایالات متحده کشف کرد که شوروی موشک‌هایی به کوبا ارسال می‌کند، بیشتر مشاوران خواستار حملات هوایی فوری بودند که می‌توانست به تشدید تنش‌ها منجر شود. رئیس‌جمهور جان اف. کندی به جای آن، قرنطینه دریایی و مذاکره دیپلماتیک را انتخاب کرد و از فاجعه جلوگیری کرد و شوروی را به عقب‌نشینی موشک‌ها از کوبا ترغیب کرد. ۲. **بحران هشدار کاذب سپتامبر ۱۹۸۳**: افسر شوروی، استانیسلاو پترولف با وضعیتی روبه‌رو شد که حسگرها به طور اشتباه حمله موشکی ایالات متحده را نشان دادند.

او به جای واکنش فوری، به درستی نتیجه‌گیری کرد که داده‌ها نادرست هستند و از وقوع احتمالی یک جنگ هسته‌ای جلوگیری کرد — قضاوتی شهودی که ممکن بود یک سیستم هوش مصنوعی به دلیل دکترین نظامی آن زمان به آن نرسد. ۳. **تمرین نظامی ایوب آرچر ناتو (نوامبر ۱۹۸۳)**: این تمرین نظامی تنش‌ها را افزایش داد، زیرا رهبران شوروی از اینکه این تمرین می‌تواند پوششی برای یک حمله واقعی باشد، هراسان بودند. یک ژنرال آمریکایی پتانسیل سوءتفاهم در این وضعیت را تشخیص داد و از اقدامات تحریک‌آمیز بر حذر داشت و بر تمایز انسانی بر پایبندی به پروتکل تأکید کرد. در این سناریوها، هوش مصنوعی ممکن بود به‌طور احساسی حملات هسته‌ای را بر اساس تفسیرهای نادرست از سطح تهدید آغاز کند. تصمیم شی و بایدن مبنی بر ممنوعیت هوش مصنوعی از آغاز حملات هسته‌ای، ضرورت قضاوت انسانی را در موقعیت‌های پرخطر تأکید می‌کند. در حالی که هوش مصنوعی پیشرفته می‌تواند به تصمیم‌گیری انسانی کمک کند، اتکا به ماشین‌ها برای چنین انتخاب‌های بحرانی خطرات قابل توجهی به همراه دارد. رهبران آینده تشویق می‌شوند تا این موضع کلیدی را در برابر تقویت هوش مصنوعی در تصمیم‌گیری جنگ‌های هسته‌ای حفظ کنند.