Le mardi, les États-Unis et leurs alliés ont annoncé la saisie réussie d'un réseau complexe de propagande russe qui s'appuyait sur la technologie de l'intelligence artificielle (IA) pour exploiter près d'un millier de comptes secrets sur la plateforme de médias sociaux X. Alors que les gouvernements utilisent de plus en plus l'IA pour diffuser des messages de manière plus efficace, cette opération est notable car les agences de renseignement occidentales ont réussi à remonter jusqu'à un agent des services de renseignement russes (FSB) et un ancien rédacteur en chef du journal contrôlé par l'État RT (anciennement connu sous le nom de Russia Today). Dans un avis conjoint détaillé, les agences des États-Unis, des Pays-Bas et du Canada ont identifié divers logiciels utilisés par le réseau, notamment le programme Meliorator, qui générait de faux comptes d'utilisateurs connus sous le nom de "souls" dans différents pays. Le FBI a obtenu une ordonnance de saisie lui permettant de saisir deux domaines Web associés aux adresses e-mail enregistrées de l'opération. Le directeur du FBI, Christopher A. Wray, a souligné l'importance de cette action de répression, déclarant : "Les mesures d'aujourd'hui marquent la perturbation d'une ferme de bots de médias sociaux parrainée par la Russie et améliorée par l'IA générative, que la Russie avait l'intention d'utiliser pour diffuser de la désinformation étrangère générée par l'IA.

Leur objectif était de développer leurs efforts en utilisant l'IA pour déstabiliser nos partenaires en Ukraine et manipuler des récits géopolitiques favorables au gouvernement russe". Alors que certains comptes automatiques avec des profils plus détaillés créaient et publiaient du contenu original, d'autres comptes génériques jouaient un rôle de soutien en aimant et en partageant ces publications. L'ampleur exacte et l'efficacité de la campagne restent floues, car les responsables n'ont pas divulgué d'informations sur le nombre d'utilisateurs réels exposés aux publications ou s'ils ont propagé les messages plus loin. Le système a échappé à la détection des mesures d'authentification de X en dupliquant automatiquement les codes à usage unique envoyés aux adresses e-mail enregistrées. Les références au code du programme concernant Facebook et Instagram laissent supposer que l'opération envisageait de s'étendre à ces plateformes. Les agences de renseignement ont recommandé aux entreprises de médias sociaux d'améliorer leurs méthodes d'identification des activités automatisées secrètes. X s'est conformé à une ordonnance de la cour en fournissant des informations sur les comptes au FBI, puis les a supprimés. L'entreprise n'a pas répondu aux demandes d'informations du Washington Post. Le département de la Justice a exprimé sa gratitude à X pour sa coopération tout au long de l'enquête, mettant en avant une meilleure communication entre le gouvernement et les principales entreprises de médias sociaux à la suite de la décision de la Cour suprême confirmant le droit des responsables de dévoiler les opérations d'influence étrangère. John Scott-Railton, chercheur à l'organisation à but non lucratif canadienne Citizen Lab, a déclaré que les informations détaillées partagées par les pays sur les opérations du botnet visent à aider d'autres enquêteurs et entreprises à détecter des activités similaires. Selon Scott-Railton, les documents révèlent que les propagandistes russes ont utilisé de grands modèles linguistiques d'IA pour étendre leurs opérations, faciliter la traduction et échapper aux logiciels de détection conçus pour identifier une utilisation répétée d'adresses IP et d'autres marqueurs d'identification.