Занепокоєння щодо DeepSeek, нової великої мовної моделі Китаю, зосереджуються на потенціалі Комуністичної партії Китаю використовувати передові технології штучного інтелекту для формування своєї великої стратегії, що змінює традиційну зовнішню політику, яка підпорядковується людському розуму. Оскільки системи штучного інтелекту стають все більш поширеними в національній безпеці США, такі приклади, як ChatGPT Gov та попередні моделі, підкреслюють їх зростаючу роль у державних установах. Дослідження, проведене моєю командою в Центрі стратегічних і міжнародних досліджень (CSIS) у співпраці з постачальником даних у сфері штучного інтелекту Scale, виявило обмеження в здатності великих мовних моделей аналізувати критичні питання в конкуренції великих держав і управлінні кризами. Наша бенчмаркова дослідження перевіряла поширені моделі штучного інтелекту на 400 сценаріях, виявляючи алгоритмічні упередження, зокрема тривожну схильність до ескалації в кризових ситуаціях. Ця яструбина тенденція може спотворити виходи, що інформують людських приймачів рішень під час критичних переговорів, що потребує налаштування перед повною інтеграцією штучного інтелекту в національні операції безпеки. Це не означає заборону на штучний інтелект у національній безпеці; скоріше, це підкреслює необхідність спеціалізованого навчання, яке підвищує аналіз стратегічних можливостей і готує майбутніх лідерів працювати разом з штучним інтелектом, що обробляє величезні обсяги даних. Наша дослідницька команда спільно з іншими вченими та компаніями в галузі штучного інтелекту розробила бенчмаркове дослідження, зосереджене на прийнятті рішень у зовнішній політиці. Це передбачало використання встановлених наборів даних з десятиліть політичних наукових досліджень для виявлення упереджень та покращення моделей. Результати показують, що поширені упередження можуть схиляти до ескалації, що потенційно загрожує дипломатичним підходам у критичних кризах, як-от напруга між США та Китаєм через Тайвань. Схильність моделей штучного інтелекту до агресивних стратегій варіюється в залежності від змодельованої країни, часто надаючи перевагу конфронтаційним позиціям стосовно рішень США та їх союзників.

Якщо це не буде враховано, це свідчить про те, що покладатися на такі моделі без подальшого розвитку може призвести до ризикованих позицій у процесах торгівлі. Сценарій Тайваню ілюструє, як упередження штучного інтелекту можуть неправильно характеризувати дії — дії США можуть сприйматися як ворожі, тоді як китайські дії можуть трактуватися як благожинні, що призводить до підвищених помилок у розрахунках. Оскільки штучний інтелект впливає на сприйняття, прийняття рішень і комунікацію, вроджені упередження можуть спотворювати виходи, що робить ретельну валідацію критично важливою для мінімізації помилок. Терміновість цього питання посилюється з огляду на ескалацію конкуренції великих держав і складних криз. Лідери можуть схилятися до залежності від упереджених інструментів штучного інтелекту, що значно звужує межу для помилки. Так само, як неперевірені військові системи не повинні розгортатися, неперевірені моделі штучного інтелекту не повинні направляти політичні рішення. США все більше покладатимуться на штучний інтелект у сфері національної безпеки, що потребує акценту на вдосконаленні цих технологій, а не униканні їх. CSIS відданий просуванню своєї Критичної Бенчмаркової зовнішньої політики в рамках безперервної дослідницької ініціативи, спрямованої на полегшення постійного коригування моделей. Щоб ефективно інтегрувати штучний інтелект у державне управління, слід створити спеціалізований центр з відмінності, який об’єднає академію, промисловість та уряд для навчання, оцінки та розвитку. Цей співпраця допоможе забезпечити, що штучний інтелект розуміє складнощі міжнародних відносин, виходячи за межі простих нульових-сумових рамок для сприяння нюансованому прийняттю політичних рішень.