Forskere har identificeret et stort russisk desinformationsnetværk, der manipulerer med vestlige AI-chatbots for at sprede pro-Kremlin propaganda, især nu hvor USA angiveligt har pauset sine cyberoperationer mod Moskva. Pravda-netværket, et velfinansieret initiativ med base i Moskva, forvrænger outputtene fra AI-chatbots ved at oversvømme store sprogmodeller (LLM) med pro-russiske usandheder. En undersøgelse fra NewsGuard afslørede, at disse chatbots, herunder prominente som ChatGPT-4 og Microsofts Copilot, gentog misinformation fra Pravda-netværket mere end 33% af tiden, hvilket fremmer en pro-Moskva fortælling. Forskningen fremhæver et mere overordnet problem med "LLM grooming, " hvor desinformation med vilje retter sig mod chatbots for at nå bredere publikum. NewsGuards rapport antydede, at cirka 3, 6 millioner artikler af russisk propaganda nu er integreret i vestlige AI-udgivelser, hvilket kompromitterer deres pålidelighed.

Nina Jankowicz fra det amerikanske Sunlight Project advarede om, at udvidelsen af russiske påvirkningsoperationer kan true demokratisk diskurs globalt, med Pravda-netværkets evne til at sprede desinformation i en så stor skala, der udgør betydelige risici for AI-systemer. Desuden er netværket, som begyndte i april 2022, vokset til at påvirke 49 lande og flere sprog, hvor det modarbejder påstande som eksistensen af amerikanske biovåbenlaboratorier i Ukraine. Bemærkelsesværdigt henviste alle 10 chatbots, der blev undersøgt af NewsGuard, til desinformation fra Pravda, hvoraf nogle refererede direkte til specifikke artikler. Indflydelsen fra figurer som John Mark Dougan understreger den strategiske brug af desinformation til at omforme opfattelser i AI. Efterhånden som den amerikanske overvågning mindskes, advarer eksperter om, at denne misinformation muligvis kan blive endnu mere udbredt, hvilket falder sammen med rapporter om pauser i amerikanske cyberoperationer mod Rusland, midt i skiftende politiske dynamikker omkring Ukraine-konflikten.