Kebimbangan mengenai DeepSeek, model bahasa besar baru dari China, tertumpu pada potensi Parti Komunis China untuk menggunakan AI canggih dalam membentuk strategi besar mereka, mengubah dasar luar tradisional yang didominasi oleh pertimbangan manusia. Ketika sistem AI semakin meluas dalam keselamatan nasional AS, contoh seperti ChatGPT Gov dan model-model sebelumnya menyoroti peranan mereka yang semakin berkembang di seluruh agensi kerajaan. Penyelidikan yang dipimpin oleh pasukan saya di Pusat Kajian Strategik dan Antarabangsa (CSIS), dengan kerjasama penyedia data AI, Scale, menunjukkan batasan dalam kemampuan LLM untuk menganalisis isu-isu kritikal dalam persaingan kuasa besar dan pengurusan krisis. Kajian penanda aras kami menguji model AI umum terhadap 400 senario, yang mendedahkan bias algoritma, terutamanya kecenderungan yang membimbangkan untuk memperburuk situasi dalam keadaan krisis. Kecenderungan yang lebih agresif ini boleh mempengaruhi output yang memberi maklumat kepada pembuat keputusan manusia semasa rundingan yang berisiko tinggi, memerlukan penyesuaian halus sebelum integrasi penuh AI ke dalam operasi keselamatan nasional. Ini tidak bermaksud larangan terhadap AI dalam keselamatan nasional; sebaliknya, ia menekankan keperluan latihan khusus yang meningkatkan keupayaan analisis strategik dan melengkapkan pemimpin masa depan untuk bekerja bersama AI yang memproses jumlah data yang besar. Pasukan penyelidikan kami, bersama dengan cendekiawan lain dan syarikat AI, telah membangunkan kajian penanda aras yang memfokuskan kepada pembuatan keputusan dasar luar. Ini melibatkan penggunaan set data yang telah terbukti dari dekad penyelidikan sains politik untuk menentukan bias dan memperbaiki model. Hasil menunjukkan bahawa bias yang berleluasa mungkin cenderung kepada memperburuk keadaan, yang berpotensi membahayakan pendekatan diplomatik dalam krisis kritikal seperti ketegangan AS-China mengenai Taiwan. Kecenderungan model AI untuk mengadopsi strategi agresif berbeza berdasarkan negara yang disimulasikan, seringkali lebih memihak kepada sikap konfrontasi berkaitan dengan pembuat keputusan AS dan sekutu.

Jika tidak ditangani, ini mencadangkan bahawa bergantung kepada model sedemikian tanpa pembangunan lanjut boleh membawa kepada posisi yang berisiko dalam proses tawar-menawar. Senario Taiwan menggambarkan bagaimana bias AI boleh mempersalahkan tindakan—gerakan AS mungkin dilihat sebagai bermusuhan, sementara tindakan China mungkin ditafsirkan sebagai baik, yang membawa kepada kekeliruan yang meningkat. Ketika AI mempengaruhi persepsi, pengambilan keputusan, dan komunikasi, bias yang wujud boleh mengubah output, menjadikan pengesahan yang teliti sangat penting untuk meminimumkan kesilapan. Keperluan untuk menangani isu ini semakin mendesak kerana persaingan kuasa besar dan krisis kompleks semakin meningkat. Pemimpin mungkin cenderung bergantung pada alat AI yang berat sebelah, yang secara signifikan menyempitkan margin untuk kesilapan. Sama seperti sistem ketenteraan yang tidak terbukti tidak seharusnya digunakan, model AI yang belum diuji tidak seharusnya membimbing keputusan dasar. AS akan semakin bergantung kepada AI di seluruh landskap keselamatan nasional, memerlukan tumpuan pada penambahbaikan teknologi ini dan bukannya mengelakkannya. CSIS komited untuk memajukan Penanda Aras Dasar Luar Kritikal sebagai sebahagian daripada inisiatif penyelidikan yang berterusan yang bertujuan untuk memudahkan penyesuaian model secara berterusan. Untuk mengintegrasikan AI dengan berkesan dalam seni pemerintahan, sebuah pusat kecemerlangan khusus harus ditubuhkan, membawa bersama akademia, industri, dan kerajaan untuk latihan, penilaian, dan pembangunan. Pendekatan kolaboratif ini akan membantu memastikan bahawa AI memahami kerumitan hubungan antarabangsa, bergerak melampaui kerangka zero-sum yang sederhana untuk memupuk pembuatan dasar yang lebih kaya.