Bekymringerne om DeepSeek, Kinas nye store sprogmodel, centrerer sig om muligheden for, at det Kinesiske Kommunistparti kan udnytte avanceret AI til at forme sin store strategi og ændre på den traditionelle udenrigspolitik, der domineres af menneskelig vurdering. Efterhånden som AI-systemer bliver stadig mere udbredte i den amerikanske nationale sikkerhed, fremhæver eksempler som ChatGPT Gov og tidligere modeller deres udvidende roller i regeringsagenturer. Forskning ledet af mit team ved Center for Strategiske og Internationale Studier (CSIS) i samarbejde med AI-dataudbyderen Scale afslører grænserne for LLM'ers evne til at analysere kritiske emner inden for storstyrkekonkurrence og krisestyring. Vores benchmark-studie testede almindelige AI-modeller mod 400 scenarier, hvilket afslørede algoritmisk bias, især en bekymrende tilbøjelighed til eskalation i krisesituationer. Denne krigslystne tendens kan forvrænge uddata, der informerer menneskelige beslutningstagere under højspændte forhandlinger, hvilket nødvendiggør finjustering før fuld integration af AI i nationale sikkerhedsoperationer. Dette indebærer ikke et forbud mod AI i national sikkerhed; snarere understreger det behovet for skræddersyet træning, der forbedrer strategiske analysekapaciteter og udstyrer fremtidige ledere til at arbejde sammen med AI, der behandler store mængder data. Vores forskningsteam, i samarbejde med andre forskere og AI-virksomheder, udviklede en benchmark-studie fokuseret på beslutningstagning i udenrigspolitik. Dette involverede udnyttelse af etablerede datasæt fra årtiers statskundskabsforskning til at identificere bias og forbedre modeller. Resultaterne indikerer, at udbredte bias kan bevæge sig mod eskalation, hvilket potentielt kan sætte diplomatiske tilgange i fare i kritiske kriser som de amerikansk-kinesiske spændinger over Taiwan. Tendensen for AI-modeller til at adoptere aggressive strategier varierer afhængigt af det simulerede land, ofte til fordel for konfrontatoriske holdninger over for amerikanske og allierede beslutningstagere.

Hvis dette ikke adresseres, tyder det på, at det at stole på sådanne modeller uden videre udvikling kan føre til risikable positioner i forhandlingsprocesser. Taiwan-scenariet illustrerer, hvordan AI-bias kan miskarakterisere handlinger—amerikanske tiltag kan opfattes som fjendtlige, mens kinesiske handlinger kan blive tolket som godartede, hvilket fører til øget fejlbedømmelse. Efterhånden som AI påvirker opfattelse, beslutningstagning og kommunikation, kan iboende bias forvrænge uddata, hvilket gør omhyggelig validering afgørende for at minimere fejl. Denne problematik er yderligere presserende, efterhånden som storstyrkekonkurrence og komplekse kriser eskalerer. Ledere kan være tilbøjelige til at stole på biased AI-værktøjer, hvilket væsentligt indsnævrer margen for fejl. Ligesom ubekræftede militære systemer ikke bør anvendes, bør utestede AI-modeller heller ikke guide politiske beslutninger. USA vil i stigende grad stole på AI på national sikkerhedsområdet, hvilket kræver fokus på at raffinere disse teknologier i stedet for at undgå dem. CSIS er forpligtet til at fremme sin Kritiske Udenrigspolitik Benchmark som en del af et igangværende forskningsinitiativ, der har til formål at lette en kontinuerlig justering af modeller. For effektivt at integrere AI i statsstyring bør et dedikeret center for ekspertise etableres, som samler akademia, industri og regering til træning, evaluering og udvikling. Denne kollaborative tilgang vil hjælpe med at sikre, at AI forstår kompleksiteten i internationale relationer og bevæger sig ud over forenklede nulsumrammer for at fremme nuanceret politikudvikling.