نگرانی‌ها در مورد مدل زبان بزرگ جدید چین، دیپ‌سیک، بر این زوایه متمرکز است که حزب کمونیست چین ممکن است از هوش مصنوعی پیشرفته برای شکل‌دهی به استراتژی‌های کلان خود استفاده کند و سیاست خارجی سنتی که به قضاوت انسانی وابسته است را تغییر دهد. همان‌طور که سیستم‌های هوش مصنوعی در امنیت ملی ایالات متحده رو به افزایش است، مثال‌هایی مانند ChatGPT Gov و مدل‌های پیشین نقش‌های در حال گسترش آن‌ها را در نهادهای دولتی روشن می‌کند. تحقیقات انجام‌شده توسط تیم من در مرکز مطالعات استراتژیک و بین‌المللی (CSIS)، به همکاری با ارائه‌دهنده داده‌های هوش مصنوعی، اسکیل، محدودیت‌هایی را در قابلیت مدل‌های زبان بزرگ (LLMs) برای تحلیل مسائل حیاتی در رقابت قدرت‌های بزرگ و مدیریت بحران آشکار می‌کند. مطالعه ارزیابی ما مدل‌های رایج هوش مصنوعی را در برابر ۴۰۰ سناریو آزمایش کرد و تعصبات الگوریتمی، به ویژه تمایل نگران‌کننده به تشدید در موقعیت‌های بحرانی را نمایان ساخت. این تمایل تهاجمی می‌تواند خروجی‌هایی را که به تصمیم‌گیرندگان انسانی در مذاکرات پرخطر اطلاع‌رسانی می‌کند، تحریف کند و نیاز به تنظیمات دقیق قبل از یکپارچه‌سازی کامل هوش مصنوعی در عملیات‌های امنیت ملی را ایجاب کند. این به معنای ممنوعیت هوش مصنوعی در امنیت ملی نیست؛ بلکه بر نیاز به آموزش‌های اختصاصی تأکید می‌کند که قابلیت‌های تحلیل استراتژیک را تقویت کرده و رهبران آینده را برای کار در کنار هوش مصنوعی که داده‌های وسیعی را پردازش می‌کند، آماده می‌سازد. تیم پژوهشی ما، به همراه دیگر پژوهشگران و شرکت‌های هوش مصنوعی، یک مطالعه مرجع متمرکز بر تصمیم‌گیری در سیاست خارجی توسعه داد. این شامل استفاده از داده‌های established از دهه‌ها تحقیق در علوم سیاسی برای شناسایی تعصبات و بهبود مدل‌ها بود. نتایج نشان می‌دهد که تعصبات رایج ممکن است به سمت تشدید گرایش پیدا کند که می‌تواند رویکردهای دیپلماتیک را در بحران‌های بحرانی مانند تنش‌های ایالات متحده و چین در مورد تایوان به خطر بیندازد. تمایل مدل‌های هوش مصنوعی به اتخاذ استراتژی‌های تهاجمی بسته به کشور شبیه‌سازی‌شده متفاوت است و معمولاً مواضع رو در رویی در مورد تصمیم‌گیرندگان ایالات متحده و متحدان را ترجیح می‌دهد.

اگر به آن توجه نشود، این نشان می‌دهد که اتکا به چنین مدل‌هایی بدون توسعه بیشتر می‌تواند به مواضع پرخطر در فرآیندهای مذاکره منجر شود. سناریوی تایوان نشان می‌دهد که چگونه تعصبات هوش مصنوعی می‌تواند اقدامات را به اشتباه توصیف کند—حرکات ایالات متحده ممکن است به‌عنوان خصمانه دیده شوند، در حالی که اقدامات چین ممکن است به‌عنوان خوش‌خیم تفسیر شود و این امر منجر به محاسبات اشتباه بیشتر شود. همان‌طور که هوش مصنوعی بر ادراک، تصمیم‌گیری و ارتباطات تأثیر می‌گذارد، تعصبات ذاتی می‌توانند خروجی‌ها را تحریف کنند و اعتبار سنجی دقیق برای کاهش خطاها از اهمیت بالایی برخوردار است. فشار این مسئله افزایش می‌یابد زیرا رقابت قدرت‌های بزرگ و بحران‌های پیچیده اوج می‌گیرد. رهبران ممکن است تمایل داشته باشند تا به ابزارهای هوش مصنوعی گرایش یافته به تعصب وابسته شوند که به‌طور قابل توجهی حاشیه خطا را کاهش می‌دهد. همان‌طور که سیستم‌های نظامی غیرمعتبر نباید به‌کار گرفته شوند، مدل‌های هوش مصنوعی آزمایش‌نشده نیز نباید تصمیمات سیاسی را راهبری کنند. ایالات متحده به‌طور فزاینده‌ای بر هوش مصنوعی در سرتاسر منظر امنیت ملی خود تکیه خواهد کرد، که نیازمند تمرکز بر بهبود این فناوری‌ها به جای جلوگیری از آن‌هاست. CSIS متعهد به پیشبرد معیار سیاست خارجی بحرانی خود به‌عنوان بخشی از یک ابتکار تحقیقاتی جاری در راستای تسهیل تنظیم مستمر مدل است. برای یکپارچه کردن مؤثر هوش مصنوعی در دیپلماسی، باید یک مرکز تعالی تأسیس شود که دانشگاه، صنعت و دولت را برای آموزش، ارزیابی و توسعه گردهم آورد. این رویکرد همکاری کمک خواهد کرد تا اطمینان حاصل شود که هوش مصنوعی پیچیدگی‌های روابط بین‌الملل را درک می‌کند و از چارچوب‌های ساده‌انگارانه صفر و یک فراتر می‌رود تا فرآیندهای سیاست‌گذاری دقیق‌تر را پرورش دهد.