Îngrijorările legate de DeepSeek, noul model de limbaj mare al Chinei, se concentrează pe potențialul Partidului Comunist Chinez de a utiliza AI avansată în conturarea strategiei sale globale, alterând politica externă tradițională, dominată de judecata umană. Pe măsură ce sistemele AI devin din ce în ce mai prezente în securitatea națională a SUA, exemple precum ChatGPT Gov și modelele anterioare subliniază rolurile lor în expansiune în agențiile guvernamentale. Cercetările conduse de echipa mea la Centrul pentru Studii Strategice și Internaționale (CSIS), în colaborare cu furnizorul de date AI Scale, dezvăluie limitele capacităților LLM-urilor de a analiza probleme critice în competiția dintre marile puteri și gestionarea crizelor. Studiul nostru de benchmarking a testat modele AI comune în 400 de scenarii, expunând biasurile algoritmice, în special o tendință îngrijorătoare spre escaladare în situații de criză. Această tendință belicoasă ar putea distorsiona rezultatele care informează decidenții umani în timpul negocierilor cu mize ridicate, necesitând ajustări fine înainte de integrarea completă a AI în operațiunile de securitate națională. Aceasta nu înseamnă o interdicție a AI în securitatea națională; mai degrabă, subliniază nevoia de formare personalizată care să îmbunătățească capacitățile de analiză strategică și să echipeze viitorii lideri pentru a colabora alături de AI care procesează cantități uriașe de date. Echipa noastră de cercetare, împreună cu alți cercetători și firme de AI, a dezvoltat un studiu de benchmarking concentrat pe procesul decizional în politică externă. Acesta a implicat utilizarea seturilor de date consacrate din decenii de cercetare în știința politică pentru a identifica biasurile și a îmbunătăți modelele. Rezultatele indică faptul că biasurile prevalente pot duce la escaladarea tensiunilor, punând în pericol abordările diplomatice în crize critice, cum ar fi tensiunile dintre SUA și China pe tema Taiwanului. Tendința modelelor AI de a adopta strategii agresive variază în funcție de țara simulată, favorizând adesea poziții confruntative în raport cu decidenții din SUA și aliați.

Dacă nu este abordată, aceasta sugerează că dependența de astfel de modele fără o dezvoltare suplimentară ar putea conduce la poziții riscante în procesele de negociere. Scenariul Taiwanului ilustrează cum biasurile AI ar putea denatură acțiunile—mișcările SUA ar putea fi considerată ostile, în timp ce acțiunile Chinei ar putea fi interpretate ca fiind benignă, conducând la erori de calcul amplificate. Pe măsură ce AI influențează percepția, procesul decizional și comunicarea, biasurile inerente pot distorsiona rezultatele, făcând o validare atentă esențială pentru minimizarea erorilor. Urgenta acestei probleme este amplificată pe măsură ce competiția dintre marile puteri și crizele complexe se intensifică. Liderii ar putea fi înclinați să se bazeze pe instrumente AI cu biasuri, restrângând semnificativ marja de eroare. Așa cum sistemele militare neprobate nu ar trebui utilizate, modelele AI netestate nu ar trebui să ghideze deciziile politice. SUA va depinde din ce în ce mai mult de AI în peisajul securității naționale, necesitând un accent pe rafinarea acestor tehnologii, mai degrabă decât evitarea lor. CSIS este angajat să avanseze Benchmarkul său critic în politică externă ca parte a unei inițiative de cercetare continue menite să faciliteze ajustările continue ale modelului. Pentru a integra eficient AI în arta guvernării, ar trebui înființat un centru dedicat excelenței, adunând academia, industria și guvernul pentru formare, evaluare și dezvoltare. Această abordare colaborativă va ajuta la asigurarea faptului că AI înțelege complexitatea relațiilor internaționale, depășind cadrele simple de tip zero-sum pentru a promova elaborarea de politici nuanțate.