OpenAI har for nylig afsløret og afbrudt fem påvirkningsoperationer involverende brugere fra Rusland, Kina, Iran og Israel. Disse operationer udnyttede AI-teknologi, såsom ChatGPT, til at producere indhold med det formål at vildlede påvirkningen af den offentlige mening og politisk diskurs. Ifølge OpenAI anvendte personerne bag disse operationer AI til at generere og dele indhold på tværs af forskellige platforme. Dette inkluderede kodning af bots og generering af uegte svar på sociale medier, hvilket skabte en falsk fremtoning af engagement. Blandt de identificerede operationer stammede to fra Rusland. En af dem, kendt som Doppelganger-kampagnen, udnyttede AI til at generere falskt indhold og kommentarer. Den anden operation, der hedder Bad Grammar, var tidligere ubeskrevet og involverede brugen af OpenAI-modeller til at kode en bot, der postede korte politiske kommentarer på Telegram. OpenAI afslørede også en operation fra Kina kaldet Spamouflage, der er berygtet for sin påvirkningsindsats på Facebook og Instagram. Denne operation anvendte AI-modeller til at undersøge aktivitet på sociale medier og generere tekstdrevet indhold på forskellige sprog på tværs af forskellige platforme. Derudover anvendte den iranske International Union of Virtual Media AI til at producere indhold på flere sprog. En kampagne blev af OpenAI forbundet til et israelsk politisk kampagnefirma ved navn Stoic.

Denne operation anvendte AI til at generere indlæg om Gaza på Instagram, Facebook og X, tidligere kendt som Twitter. Målretningen af publikum inkluderede Canada, USA og Israel. OpenAIs rapport fremhævede også, at disse operationer skabte indhold relateret til Ruslands invasion af Ukraine, indiske valg, vestlig politik og kritik af den kinesiske regering. Trods brugen af AI konkluderede OpenAI, at disse påvirkningsoperationer havde begrænset rækkevidde. Med henvisning til "Breakout Scale" fra Brookings Institution, der måler påvirkningsoperationers indvirkning, scorede ingen af de identificerede operationer højere end to ud af fem. Dette indikerer, at det genererede indhold ikke fik fodfæste blandt ægte brugerfællesskaber. De seneste år har påvirkningsoperationer på sociale medieplatforme fået betydelig opmærksomhed. Siden 2016, hvor russisk sponsorede enheder blev fundet i aktiviteter for at så splid inden præsidentvalget, har teknologivirksomheder aktivt overvåget og rapporteret om lignende hændelser. Bare sidste måned afslørede Microsoft beviser på en ny russisk-støttet påvirkningskampagne forud for valget i 2024. Desuden udgav Meta en rapport på forbindelserne mellem påvirkningsindsats og Stoic tidligere på ugen. Den angav, at hundredvis af falske Facebook- og Instagram-konti, der var knyttet til Stoic, blev fjernet, hvor nogle af indholdet, der blev postet af disse konti, blev identificeret som AI-genereret.