Le preoccupazioni riguardanti DeepSeek, il nuovo modello di linguaggio di grandi dimensioni della Cina, si concentrano sul potenziale utilizzo da parte del Partito Comunista Cinese di un'intelligenza artificiale avanzata per plasmare la sua grande strategia, alterando la tradizionale politica estera dominata dal giudizio umano. Man mano che i sistemi di intelligenza artificiale diventano sempre più prevalenti nella sicurezza nazionale degli Stati Uniti, esempi come ChatGPT Gov e modelli precedenti evidenziano i loro ruoli in espansione all'interno delle agenzie governative. La ricerca condotta dal mio team presso il Center for Strategic and International Studies (CSIS), in collaborazione con il fornitore di dati AI Scale, rivela i limiti nella capacità dei modelli di linguaggio di analizzare questioni critiche nella competizione tra grandi potenze e nella gestione delle crisi. Il nostro studio di benchmarking ha testato modelli di intelligenza artificiale comuni su 400 scenari, esponendo pregiudizi algoritmici, in particolare una preoccupante propensione all'escalation nelle situazioni di crisi. Questa tendenza bellicosa potrebbe distorcere le informazioni fornite ai decisori umani durante le negoziazioni ad alto rischio, rendendo necessario un affinamento prima della piena integrazione dell'IA nelle operazioni di sicurezza nazionale. Questo non implica un divieto dell'IA nella sicurezza nazionale; piuttosto, evidenzia la necessità di un addestramento su misura che migliori le capacità di analisi strategica e prepari i futuri leader a collaborare con l'IA che processa enormi quantità di dati. Il nostro team di ricerca, insieme ad altri studiosi e aziende di IA, ha sviluppato uno studio di benchmarking focalizzato sul processo decisionale in politica estera. Ciò ha coinvolto l'uso di dataset consolidati da decenni di ricerca in scienze politiche per individuare pregiudizi e migliorare i modelli. I risultati indicano che pregiudizi diffusi possono inclinarsi verso l'escalation, potenzialmente compromettendo gli approcci diplomatici in crisi critiche come le tensioni tra Stati Uniti e Cina riguardo a Taiwan. La tendenza dei modelli di IA ad adottare strategie aggressive varia in base al paese simulato, spesso favorendo atteggiamenti confrontativi riguardo ai decisori statunitensi e alleati.

Se non affrontato, ciò suggerisce che fare affidamento su tali modelli senza un ulteriore sviluppo potrebbe portare a posizioni rischiose nei processi di contrattazione. Lo scenario di Taiwan illustra come i pregiudizi dell'IA potrebbero travisare le azioni: i movimenti degli Stati Uniti potrebbero essere visti come ostili, mentre le azioni cinesi potrebbero essere interpretate come benigne, portando a miscalculazioni elevate. Poiché l'IA influenza la percezione, il processo decisionale e la comunicazione, i pregiudizi intrinseci possono distorcere i risultati, rendendo cruciale una validazione attenta per minimizzare gli errori. L'urgenza di questa questione è amplificata poiché la competizione tra grandi potenze e le crisi complesse aumentano. I leader potrebbero essere incline a fare affidamento su strumenti di IA pregiudizievoli, riducendo significativamente il margine di errore. Proprio come i sistemi militari non testati non dovrebbero essere dispiegati, i modelli di IA non collaudati non dovrebbero guidare le decisioni politiche. Gli Stati Uniti si affideranno sempre di più all'IA nell'ambito della sicurezza nazionale, richiedendo un focus sul perfezionamento di queste tecnologie piuttosto che sull'evitarle. Il CSIS è impegnato a far avanzare il suo Critical Foreign Policy Benchmark come parte di un'iniziativa di ricerca continua volta a facilitare un aggiustamento continuo dei modelli. Per integrare efficacemente l'IA nella diplomazia, dovrebbe essere stabilito un centro di eccellenza dedicato, che riunisca accademia, industria e governo per formazione, valutazione e sviluppo. Questo approccio collaborativo aiuterà a garantire che l'IA comprenda le complessità delle relazioni internazionali, andando oltre le semplici strutture a somma zero per promuovere una politica più sfumata.