Áhyggjur vegna DeepSeek, nýs stórs málmodell frá Kína, snúast um möguleikann á því að Kínverska kommúnistaflokkinn geti notað háþróaða gervigreind (AI) til að móta sína stórstrategíu, sem breytir hefðbundinni utanríkisstefnu sem er aðallega háð manna dómum. Þegar AI kerfi verða sífellt viðurkenndari í þjóðaröryggi Bandaríkjanna, eru dæmi eins og ChatGPT Gov og fyrri módel að sýna fram á að hlutverk þeirra eru að aukast innan ríkisstofnana. Rannsóknir sem mitt teymi við Center for Strategic and International Studies (CSIS), í samstarfi við AI gögnafyrirtækið Scale, sýna takmarkanir í getu LLMs til að greina mikilvægar spurningar í samkeppni stórvelda og krísustjórn. Benchmark rannsókn okkar prófaði algeng AI módel gegn 400 senarium, sem kom í ljós skekkjum í reikniritum, sérstaklega áhyggjuefni um að einkenni væri til staðar fyrir örvun í krísuaðstæðum. Þessi ágengi straumur gæti snúið úttökum sem upplýsa mannlegar ákvarðanatökuferli í háspennandi viðræðum, sem kallar á fínstillingu áður en AI er fullkomlega samþætt í þjóðaröryggisstarfsemi. Þetta þýðir ekki að banna AI í þjóðaröryggi; heldur undirstrikar það nauðsyn þess að veita sérsniðin þjálfun sem eykur getu til stefnumótunar og býr framtíðarleiðtoga til að vinna í samvinnu við AI sem fer með gríðarleg magn gagna. Rannsóknarteymi okkar, ásamt öðrum fræðimönnum og AI fyrirtækjum, þróaði nétokana rannsókn sem einbeitti sér að ákvarðanatöku í utanríkisstefnu. Þetta samanstóð af því að nýta viðurkenndar gagnasafn frá áratugum af stjórnmálafræðirannsóknum til að skera úr skekkjum og bæta módel. Niðurstöðurnar benda til þess að ríkjandi skekkjur geti leitt til örvunar, sem gæti stofnað diplómatískum aðferðum í brýnum kreppum á borð við spennuna milli Bandaríkjanna og Kína um Taívan í hættu. Tilhneiging AI módel til að aðlagast árásargjörnum aðferðum er mismunandi eftir simúleruðu landi, oft með því að styðja við samkeppnishátt gagnvart Bandaríkja- og bandalagsflokkunum.

Ef ekki er brugðist við, gefur þetta til kynna að aðhald á þeim módelum án frekari þróunar gæti leitt til áhættusamra stöðu í samningaumræðum. Taívan senaríóið sýnir hvernig skekkjur AI gætu rangtúlkað aðgerðir—Bandarísk skref gætu verið talin óvinveitt, á meðan kínversku aðgerðirnar gætu verið túlkaðar sem góðboð, sem leiðir til aukinna mistúlkunar. Þegar AI hefur áhrif á skynjun, ákvarðanatöku og samskipti, geta meðfylgjandi skekkjur skekkt úttök, sem gerir vandaða staðfestingu nauðsynlega til að lágmarka villur. Nauðsyn þessa máls er aukin í takt við að samkeppni stórvelda og flóknar krísa magnast. Leiðtogar gætu verið líklegir til að treysta á skekkt AI verkfæri, sem á verulegu tiltekningarlítið. Rétt eins og prófanir á óprófuðum herkerfum ætti ekki að beita, ættu óprófuð AI módel ekki að leiða stefnumótandi ákvarðanir. Bandaríkin munu í auknum mæli treysta á AI á sviði þjóðaröryggis, sem kallar á fókus á að fínstilla þessar tækni frekar en að forðast þær. CSIS er skuldbundið til að styðja við Critical Foreign Policy Benchmark sem hluta af áframhaldandi rannsóknarverkefni sem miðar að því að auðvelda stöðugar tilhögunarbreytur. Til að nýta AI á áhrifaríkan hátt í stjórnsýslu, ætti að koma á fót sérstök miðstöð fyrir framúrskarandi störf, sem sameinar háskóla, iðnað og ríkið fyrir þjálfun, mat og þróun. Þessi samvinnuháttur mun hjálpa til við að tryggja að AI skilji flækjur alþjóðlegra samskipta, og fari í burtu frá einföldum núll-summukerfum til að hvetja til flóknari stefnumótunar.