I slutten av 2024 nådde Kinas president Xi Jinping og USAs president Joe Biden en avgjørende avtale om at kunstig intelligens (KI) aldri skal ha myndighet til å iverksette en atomkrig. Denne betydningsfulle politiske beslutningen sprang ut fra fem år med dialog i Track II U. S. -China Dialogue on Artificial Intelligence and National Security, organisert av Brookings Institution og Tsinghua University. Historiske kasustudier fra den US-Sovjetiske rivaliseringen under den kalde krigen avdekker potensielle katastrofer dersom KI hadde vært i stand til å ta så kritiske beslutninger, og fremhever den menneskelige bevissthetens uunnværlige rolle i atomkontekster. Tre sentrale hendelser illustrerer dette punktet: 1. **Den Cubanske Missilkrisen (1962)**: Da USAs etterretning oppdaget sovjetiske missillsendinger til Cuba, anbefalte de fleste rådgivere umiddelbare luftangrep som kunne ha provosert en eskalering. President John F. Kennedy valgte derimot en maritim blokade og diplomatiske forhandlinger, og unngikk katastrofe ved å oppmuntre til tilbaketrekning av sovjetiske missiler fra Cuba. 2. **Falsk Alarmkrisen i september 1983**: Den sovjetiske offiseren Stanislav Petrov sto overfor en situasjon hvor sensorer feilaktig indikerte et pågående amerikansk missilangrep.

Han valgte å ikke iverksette umiddelbar gjengjeldelse og deduserte riktig at dataene var feilaktige, noe som forhindret en potensiell atomkrig—en instinktiv vurdering som et KI-system kanskje ikke ville ha nådd gitt den militære doktrinen på den tiden. 3. **NATOs Able Archer-øvelse (november 1983)**: Denne militærøvelsen hevet spenningene, ettersom sovjetiske ledere fryktet at den skjulte et ekte angrep. En amerikansk general anerkjente situasjonens potensial for misforståelse og frarådet provoserende handlinger, noe som viste menneskelig dømmekraft over protokolloverholdelse. I disse scenarioene kunne KI impulsivt ha iverksatt atomangrep basert på feiltolkninger av trusselnivåer. Beslutningen fra Xi og Biden om å forby KI fra å lansere atomvåpen understreker nødvendigheten av menneskelig dømmekraft i situasjoner med høye innsatser. Selv om avansert KI potensielt kan bistå menneskelig beslutningstaking, innebærer avhengighet av maskiner for slike kritiske valg betydelige risikoer. Fremtidige ledere oppmuntres til å opprettholde dette avgjørende standpunktet mot KI’s makt i beslutninger om atomkrig.