Brige vezane za DeepSeek, novi model velikog jezika iz Kine, usredotočuju se na potencijal Kineske komunističke partije da koristi naprednu AI u oblikovanju svoje velike strategije, mijenjajući tradicionalnu vanjsku politiku koju dominira ljudska prosudba. Kako sustavi umjetne inteligencije postaju sve prisutniji u nacionalnoj sigurnosti SAD-a, primjeri poput ChatGPT Gov i prethodnih modela ističu njihove šire uloge u vladinim agencijama. Istraživanje koje je vodio moj tim u Centru za strateške i međunarodne studije (CSIS), u suradnji s pružateljem AI podataka Scale, otkriva ograničenja u sposobnosti LLM-ova da analiziraju ključna pitanja u konkurenciji velikih sila i upravljanju krizama. Naša studija referentnih vrijednosti testirala je uobičajene AI modele na 400 scenarija, otkrivajući algoritamske pristranosti, posebno zabrinjavajuću sklonost eskalaciji u kriznim situacijama. Ova jastreblja sklonost može iskriviti rezultate koji informiraju ljudske donositelje odluka tijekom pregovora s visokim ulozima, što zahtijeva prilagodbu prije pune integracije AI u operacije nacionalne sigurnosti. To ne implicira zabranu AI u nacionalnoj sigurnosti; radije, naglašava potrebu za prilagođenim obukama koje poboljšavaju sposobnosti strateške analize i osposobljavaju buduće vođe da rade uz AI koji obrađuje velike količine podataka. Naš istraživački tim, u suradnji s drugim naučnicima i firmama za AI, razvio je studiju referentnih vrijednosti fokusiranu na donošenje odluka u vanjskoj politici. Ovo je uključivalo korištenje uspostavljenih skupova podataka iz desetljeća istraživanja političkih znanosti kako bi se utvrdile pristranosti i poboljšali modeli. Rezultati ukazuju na to da učestale pristranosti mogu skrenuti prema eskalaciji, potencijalno ugrožavajući diplomatske pristupe u kritičnim krizama, poput napetosti između SAD-a i Kine oko Tajvana. Sklonost AI modela usvajanju agresivnih strategija varira ovisno o simuliranoj zemlji, često favorizirajući konfrontacijske stavove prema donosiocima odluka iz SAD-a i saveznika.

Ako se to ne adresira, sugerira se da bi oslanjanje na takve modele bez daljnjeg razvoja moglo dovesti do rizičnih pozicija u procesima pregovaranja. Scenarij Tajvana ilustrira kako bi AI pristranosti mogle pogrešno prikazati akcije—pokreti SAD-a mogli bi biti viđeni kao neprijateljski, dok bi kineske akcije mogle biti interpretirane kao benigni, što dovodi do povećanih pogrešnih procjena. Kako AI utječe na percepciju, donošenje odluka i komunikaciju, inherentne pristranosti mogu iskriviti rezultate, što čini pažljivu validaciju ključnom za minimiziranje grešaka. Urgencija ovog pitanja se pojačava kako konkurencija velikih sila i složene krize eskaliraju. Vođe bi mogle biti sklone oslanjanju na pristrane AI alate, značajno sužavajući maržu za greške. Baš kao što neprovedeni vojnici sustavi ne bi trebali biti raspoređeni, neisprobani AI modeli ne bi trebali voditi političkim odlukama. SAD će se sve više oslanjati na AI širom nacionalne sigurnosti, što zahtijeva fokus na rafiniranje ovih tehnologija umjesto na izbjegavanje istih. CSIS je predan napretku svoje Kritične referentne tačke vanjske politike kao dijela kontinuiranog istraživačkog inicijative usmjerene na olakšavanje neprekidnog prilagođavanja modela. Kako bi se učinkovito integrirala AI u državnu upravu, trebalo bi uspostaviti posvećen centar izvrsnosti, okupljajući akademsku zajednicu, industriju i vladu za obuku, evaluaciju i razvoj. Ovaj kolaborativni pristup pomoći će osigurati da AI razumije složenosti međunarodnih odnosa, prelazeći iznad pojednostavljenih okvira nulti-suma kako bi potaknuo suptilnije donošenje odluka.