Obavy týkajúce sa DeepSeek, nového veľkého jazykového modelu Číny, sa sústreďujú na potenciál Komunistickej strany Číny využiť pokročilú umelú inteligenciu pri formovaní jej veľkej stratégie, čo by mohlo zmeniť tradičnú zahraničnú politiku dominovanú ľudským posudkom. Ako sa systémy umelej inteligencie stávajú čoraz prítomnejšími v oblasti národnej bezpečnosti USA, príklady ako ChatGPT Gov a predchádzajúce modely zdôrazňujú ich rastúce úlohy v rôznych vládnych agentúrach. Výskum vedený mojím tímom v Centre pre strategické a medzinárodné štúdie (CSIS), v spolupráci s poskytovateľom dát AI Scale, ukazuje obmedzenia schopností veľkých jazykových modelov (LLM) analyzovať kľúčové otázky v súťaži veľkých mocností a v riadení kríz. Naše porovnávacie štúdie testovali bežné modely AI na 400 scenároch, pričom odhalili algoritmické predsudky, pričom najviac znepokojuje tendencia k eskalácii v krízových situáciách. Táto jestvujúca tendencia by mohla deformovať výsledky, ktoré informujú rozhodovateľov počas dôležitých rokovaní, čo by si vyžadovalo doladenie pred plnou integráciou AI do operácií národnej bezpečnosti. Neznamená to zákaz AI v národnej bezpečnosti; skôr to zdôrazňuje potrebu špecializovaného tréningu, ktorý vylepšuje strategické analytické schopnosti a pripravuje budúcich lídrov na spoluprácu s AI, ktorá spracováva obrovské množstvá dát. Náš výskumný tím v spolupráci s ďalšími vedcami a firmami zaoberajúcimi sa AI vypracoval porovnávaciu štúdiu zameranú na rozhodovanie v oblasti zahraničnej politiky. To zahŕňalo využitie etablovaných dátových súborov zo stáročí politologického výskumu na identifikáciu predsudkov a zlepšenie modelov. Výsledky naznačujú, že prevládajúce predsudky môžu smerovať k eskalácii, čo potenciálne ohrozuje diplomatické prístupy v kritických krízach, ako sú napätia medzi USA a Čínou týkajúce sa Taiwanu. Tendencia AI modelov zavádzať agresívne stratégie sa líši v závislosti od simulovanej krajiny a často preferuje konfrontačné postoje voči rozhodovateľom USA a ich spojencov.

Ak sa na to neprihliadne, naznačuje to, že dôverovanie takýmto modelom bez ďalšieho rozvoja by mohlo viesť k rizikovým pozíciám v rokovacích procesoch. Scenár Taiwanu ilustruje, ako predsudky AI môžu skresliť činy – pohyby USA môžu byť vnímané ako nepriateľské, zatiaľ čo čínske činy môžu byť interpretované ako benevolentné, čo vedie k zvýšenému riziku nesprávnych výpočtov. Ako AI ovplyvňuje vnímanie, rozhodovanie a komunikáciu, inherentné predsudky môžu skresliť výsledky, čo robí dôkladnú validáciu kľúčovou pre minimalizáciu chýb. Urgentnosť tejto otázky sa zvyšuje, keď sa zvyšuje súťaž veľkých mocností a komplexné krízy. Lídri môžu byť naklonení spoľahnúť sa na predsudkové nástroje AI, čo významne zúži margínu pre chyby. Rovnako ako by sa nemali nasadzovať nepriateľské vojenské systémy, nemali by sa nielen testované modely AI používať na smerovanie politických rozhodnutí. USA budú čoraz viac spoliehať na AI v oblasti národnej bezpečnosti, čo si vyžaduje zameranie na zlepšovanie týchto technológií miesto ich vyhýbania sa. CSIS sa zaväzuje zlepšovať svoj Kritický benchmark zahraničnej politiky ako súčasť prebiehajúcej výskumnej iniciatívy zameranej na uľahčenie neustáleho prispôsobovania modelov. Aby sme účinne integrovali AI do štátneho riadenia, mal by byť zriadený špecializovaný centrá pre excelentnosť, ktorý spojí akademickú obec, priemysel a vládu za účelom školení, hodnotenia a rozvoja. Tento kolaboratívny prístup pomôže zabezpečiť, aby AI chápalo zložitosti medzinárodných vzťahov, prešlo nad rámec jednoduchých koncepcií nulového súčtu a podporilo nuansované rozhodovanie v oblasti politiky.