Obavy ohledně DeepSeek, nového velkého jazykového modelu Číny, se soustředí na potenciál, který má Čínská komunistická strana využít pokročilou umělou inteligenci k utváření své velké strategie a ke změně tradiční zahraniční politiky, která byla dosud určována lidským úsudkem. Jak se systémy umělé inteligence stávají stále běžnějšími v oblasti národní bezpečnosti USA, ukazují příklady jako ChatGPT Gov a předchozí modely jejich rostoucí roli v rámci vládních agentur. Výzkum vedený mým týmem v Centru pro strategická a mezinárodní studia (CSIS) ve spolupráci s poskytovatelem AI dat Scale odhaluje omezení schopností velkých jazykových modelů analyzovat kritické otázky ve velmocenské konkurenci a řízení krizí. Naše benchmarkingová studie testovala běžné modely AI na 400 scénářích a odhalila algoritmické předsudky, zejména znepokojivou tendenci k vyhrocení situací v krizových momentech. Tato jestřábí tendence by mohla zkreslit výstupy, které informují lidské rozhodovatele během jednání s vysokými sázkami, což vyžaduje jemné doladění před plnou integrací AI do operací národní bezpečnosti. To neznamená zákaz AI v národní bezpečnosti; spíše to zdůrazňuje potřebu cíleného školení, které zlepší schopnosti strategické analýzy a vybaví budoucí lídry k práci po boku AI, která zpracovává obrovské množství dat. Náš výzkumný tým, spolu s dalšími odborníky a firmami zabývajícími se AI, vyvinul benchmarkovou studii zaměřenou na rozhodování v oblasti zahraniční politiky. To zahrnovalo využití zavedených datových sad z desetiletí politologického výzkumu, aby se identifikovaly předsudky a zlepšily modely. Výsledky ukazují, že rozšířené předsudky mohou směřovat k eskalaci, což potenciálně ohrožuje diplomatické přístupy v kritických krizích, jako jsou napětí mezi USA a Čínou ohledně Tchaj-wanu. Tendence modelů AI přijímat agresivní strategie se liší v závislosti na simulované zemi, často upřednostňuje konfrontační postoje vůči rozhodovatelům v USA a jejich spojencích.

Pokud tomu nebude věnována pozornost, naznačuje to, že spoléhání na takovéto modely bez dalšího vývoje by mohlo vést k riskantním pozicím v jednacích procesech. Scénář ohledně Tchaj-wanu ilustruje, jak by předsudky AI mohly nesprávně charakterizovat akce—americké krok by mohl být vnímán jako nepřátelský, zatímco čínské akce by mohly být interpretovány jako benigní, což by vedlo k ještě větším omylům. Jak AI ovlivňuje vnímání, rozhodování a komunikaci, inherentní předsudky mohou zkreslit výstupy, což činí pečlivou validaci zásadní pro minimalizaci chyb. Naléhavost tohoto problému se zvyšuje s tím, jak se vyostřuje velmocenská konkurence a složité krize. Vůdcové mohou mít tendenci spoléhat se na zaujímací AI nástroje, což značně zúží prostor pro chybu. Stejně jako by neměly být nasazeny neprověřené vojenské systémy, neměly by neotestované modely AI řídit politická rozhodnutí. USA budou čím dál více spoléhat na AI v oblasti národní bezpečnosti, což vyžaduje zaměření na zdokonalování těchto technologií namísto jejich vyhýbání se. CSIS je odhodláno pokročit se svým Kritickým benchmarkem zahraniční politiky jako součástí probíhající výzkumné iniciativy, jejímž cílem je usnadnit kontinuální přizpůsobování modelů. Aby bylo možné účinně integrovat AI do státní politiky, mělo by být založeno specializované centrum excelence, které by spojilo akademickou sféru, průmysl a vládu pro školení, hodnocení a vývoj. Tento kooperativní přístup pomůže zajistit, aby AI porozuměla složitosti mezinárodních vztahů a překročila zjednodušené dvoučlenné rámce a podpořila nuancované rozhodování v politice.