Het U. S. Special Operations Command (SOCOM) is op zoek naar bedrijven om ondetecteerbare deepfake internetpersoona's te ontwikkelen die overtuigend als echte individuen online kunnen verschijnen, volgens een inkoopdocument dat is beoordeeld door The Intercept. Dit initiatief maakt deel uit van een strategische verlanglijst van het Joint Special Operations Command (JSOC) van het Ministerie van Defensie, dat geavanceerde technologieën voor elitemilitaire operaties target. Het document benadrukt de creatie van valse online profielen die menselijk uniekheid nabootsen en realistische uitdrukkingen en hoogwaardige foto's bevatten. De eisen van JSOC gaan verder dan stilstaande beelden en omvatten gezichts- en achtergrondvideo's, audiolagen en zelfs nepomgevingen die zijn ontworpen om detectie-algoritmen van sociale mediaplatforms te omzeilen. Deze ontwikkeling volgt op eerder gebruik van nepaccounts door Amerikaanse militaire operaties om propaganda te promoten en percepties te beïnvloeden, met name tegen buitenlandse tegenstanders zoals China. Eerder toonde SOCOM interesse in videodeepfakes voor verschillende operaties, waaronder misleiding en desinformatiecampagnes.

De technologie is afhankelijk van geavanceerde machine learning-modellen, zoals Nvidia's StyleGAN, dat is gebruikt om valse online identiteiten te creëren. Hoewel overheidsmaatregelen momenteel onder meer 'live' detectietechnieken omvatten om deepfakes te bestrijden, roept het streven van het leger zorgen op over de ethische implicaties van het inzetten van dergelijke bedrieglijke technologieën. Ondanks de veroordeling van het gebruik van deepfakes door andere landen als een bedreiging voor de nationale veiligheid, onthullen de initiatieven van het Amerikaanse leger een tegenstrijdigheid. Veiligheidsfunctionarissen hebben synthetische media erkend als een toenemende bedreiging, maar het streven van het Pentagon om deepfake-mogelijkheden voor eigen doeleinden te benutten, kan bredere adoptie onder mondiale tegenstanders uitlokken. Analisten beweren dat dit het publieke vertrouwen in informatie kan ondermijnen en een klimaat van scepsis kan creëren ten aanzien van regeringscommunicatie. Zowel Rusland als China hebben ook gebruik gemaakt van deepfake-technologie voor propaganda, wat de VS ertoe heeft aangezet een kader te ontwikkelen om buitenlandse informatiemanipulatie tegen te gaan. Deze interne inconsistentie weerspiegelt een bredere spanning binnen de Amerikaanse regering over de balans tussen het bevorderen van waarheidsgetrouwe informatie en het uitvoeren van geheime operaties, wat uiteindelijk zorgen oproept over de publieke perceptie en binnenlands vertrouwen.