Tirsdag meddelte USA og dets allierede, at de succesfuldt har overtaget et komplekst russisk propaganda-netværk, der stolede på kunstig intelligens (AI) teknologi for at drive næsten tusinde skjulte konti på det sociale medieplatform X. Mens regeringer i stigende grad har anvendt AI til at formidle beskeder mere effektivt, er denne afvikling bemærkelsesværdig, da vestlige efterretningstjenester formåede at spore operationen tilbage til en officer i den russiske FSB efterretningstjeneste og en tidligere højtstående redaktør på det statskontrollerede medie RT (tidligere kendt som Russia Today). I en detaljeret fælles vejledning identificerede agenturer i USA, Nederlandene og Canada forskellige softwareprogrammer, der blev anvendt af netværket, herunder programmet Meliorator, der genererede fiktive brugerkonti kendt som "sjæle" fra forskellige lande. FBI fik en retskendelse, der gjorde det muligt for dem at overtage to webdomæner, der var forbundet med registrerede e-mailadresser i operationen. FBI-direktør Christopher A. Wray fremhævede betydningen af denne handhævelsesaktion og sagde: "Dagens handlinger er afbrydelsen af en russisk-sponsoreret social medie robot-farm, der blev forbedret af Generative AI, og som Rusland havde til hensigt at bruge til at sprede AI-genereret udenlandsk desinformation.

Deres mål var at skalere deres bestræbelser ved at bruge AI til at underminere vores partnere i Ukraine og manipulere geopolitiske narrativer til fordel for den russiske regering. " Mens nogle automatiserede konti med mere detaljerede profiler skabte og offentliggjorde originalt indhold, spillede andre generiske konti en støttende rolle ved at synes godt om og dele disse indlæg. Den nøjagtige rækkevidde og effektivitet af kampagnen er uklar, da embedsmænd ikke offentliggjorde oplysninger om, hvor mange virkelige brugere der blev udsat for indlæggene eller om de spredte budskaberne yderligere. Systemet undgik X's godkendelsesforanstaltninger ved automatisk at duplikere engangskoder, der blev sendt til registrerede e-mailadresser. Programkodehenvisninger til Facebook og Instagram antydede operationens planer om at udvide til disse platforme. Efterretningstjenesterne anbefalede, at sociale medievirksomheder forbedrer deres metoder til at identificere skjulte automatiserede aktiviteter. X overholdte en retskendelse om at give information om kontoerne til FBI og slettede dem efterfølgende. Selskabet svarede ikke på henvendelser fra The Washington Post. Justitsministeriet udtrykte sin taknemmelighed over for X for dets samarbejde under hele undersøgelsen og fremhævede forbedret kommunikation mellem regeringen og de største sociale medievirksomheder efter Højesterets afgørelse, der bekræfter embedsmænds ret til at afsløre udenlandsk indflydelsesoperationer. John Scott-Railton, forsker ved den canadiske non-profit organisation Citizen Lab, sagde, at de detaljerede oplysninger, der deles af landene om botnettets aktiviteter, har til formål at hjælpe andre efterforskere og virksomheder med at opdage lignende aktiviteter. Ifølge Scott-Railton afslører dokumenterne, at russiske propagandister har udnyttet AI's store sprogmodeller til at udvide deres operationer, hjælpe med oversættelse og undgå opdagelsessoftware, der er designet til at identificere gentagen brug af IP-adresser og andre identifikationsmarkører.