Στα τέλη του 2024, ο Κινέζος Πρόεδρος Σι Τζινπίνγκ και ο Αμερικανός Πρόεδρος Τζο Μπάιντεν κατέληξαν σε μια κρίσιμη συμφωνία ότι η τεχνητή νοημοσύνη (AI) δεν θα πρέπει ποτέ να έχει την εξουσία να ξεκινήσει έναν πυρηνικό πόλεμο. Αυτή η σημαντική πολιτική απόφαση προήλθε από πέντε χρόνια διαλόγου στον Διάλογο Track II ΗΠΑ-Κίνας σχετικά με την Τεχνητή Νοημοσύνη και την Εθνική Ασφάλεια, που διοργανώθηκε από το Ινστιτούτο Brookings και το Πανεπιστήμιο Τσινγκχουά. Ιστορικές μελέτες περιστατικών από τον ανταγωνισμό ΗΠΑ-Σοβιε Union κατά τη διάρκεια του Ψυχρού Πολέμου αποκαλύπτουν πιθανές καταστροφές εάν η AI είχε τη δυνατότητα να λάβει τέτοιες κρίσιμες αποφάσεις, υπογραμμίζοντας τον αναγκαίο ρόλο της ανθρώπινης συνείδησης σε πυρηνικά συμφραζόμενα. Τρία κρίσιμα περιστατικά απεικονίζουν αυτό το σημείο: 1. **Η Κρίση των Πυραύλων της Κούβας (1962)**: Όταν η αμερικανική υπηρεσία πληροφοριών ανακάλυψε την αποστολή σοβιετικών πυραύλων στην Κούβα, οι περισσότεροι σύμβουλοι υποστήριξαν άμεσες αεροπορικές επιθέσεις, οι οποίες θα μπορούσαν να προκαλέσουν κλιμάκωση. Ο Πρόεδρος Τζον Φ. Κένεντι επέλεξε αντίθετα έναν ναυτικό αποκλεισμό και διπλωματικές διαπραγματεύσεις, αποφεύγοντας την καταστροφή ενθαρρύνοντας την αποχώρηση των σοβιετικών πυραύλων από την Κούβα. 2. **Η Κρίση Ψευδούς Συναγερμού του Σεπτεμβρίου 1983**: Ο Σοβιετικός αξιωματικός Στανισλάβ Πετρόφ αντιμετώπισε μια κατάσταση όπου οι αισθητήρες υποδείκνυαν εσφαλμένα μια επερχόμενη αμερικανική επίθεση με πυραύλους.

Επιλέγοντας να μην απαντήσει άμεσα, συμπέρανε σωστά ότι τα δεδομένα ήταν λανθασμένα, προλαμβάνοντας έναν πιθανό πυρηνικό πόλεμο—μια ενστικτώδη κρίση που ένα σύστημα AI ίσως να μην είχε φτάσει δεδομένης της στρατιωτικής δόγματος της εποχής. 3. **Η Άσκηση Able Archer του NATO (Νοέμβριος 1983)**: Αυτή η στρατιωτική άσκηση αύξησε τις εντάσεις, καθώς οι σοβιετικοί ηγέτες φοβούνταν ότι έκρυβε μια πραγματική επίθεση. Ένας Αμερικανός γενικός αναγνώρισε τη δυνατότητα παρεξήγησης της κατάστασης και συμβούλευσε εναντίον προκλητικών ενεργειών, αναδεικνύοντας την ανθρώπινη διάκριση έναντι της τυποποίησης. Στα εν λόγω σενάρια, η AI θα μπορούσε να έχει αυθόρμητα ξεκινήσει πυρηνικές επιθέσεις βάσει εσφαλμένων ερμηνειών των επιπέδων απειλής. Η απόφαση των Σι και Μπάιντεν να απαγορεύσουν την AI να εκτοξεύσει πυρηνικά όπλα υπογραμμίζει την αναγκαιότητα της ανθρώπινης κρίσης σε καταστάσεις υψηλού ρίσκου. Ενώ η προηγμένη AI θα μπορούσε ενδεχομένως να βοηθήσει στη διαδικασία λήψης αποφάσεων, η εξάρτηση από μηχανές για τέτοιες κρίσιμες επιλογές υψώνει σημαντικούς κινδύνους. Οι μελλοντικοί ηγέτες ενθαρρύνονται να υποστηρίξουν αυτήν τη θεμελιώδη θέση κατά της ενδυνάμωσης της AI στις αποφάσεις για πυρηνικό πόλεμο.