Tilgængeligheden af AI-værktøjer som ChatGPT og lignende alternativer udgør en potentiel risiko for spredning af politisk motiveret misinformation på sociale medieplatforme i hidtil uset omfang. Denne udsigt er særligt bekymrende i en æra præget af dybt splittede politiske holdninger og en voksende skepsis over for onlineindhold. Mens valgcyklusserne nærmer sig, forbliver rollen, som AI spiller i at forme deres resultater, usikker, på trods af drøftelser med over 30 politikere, politiske beslutningstagere, tech-ledere og eksperter fra forskellige lande. Selvom de nyeste AI-værktøjer kan vise bemærkelsesværdige evner, kan flertallet af deepfakes, herunder dem, der stammer fra Rusland og Kina til globale påvirkningskampagner, stadig nemt og hurtigt afsløres.

Desuden er politiske overbevisninger ofte dybt forankrede, hvilket får eksperter til at advare om, at AI-genereret indhold sandsynligvis ikke vil ændre vælgernes partitilhørsforhold, uanset hvor overbevisende falske billeder, videoer eller lydklip kan forekomme. Under de seneste valg, herunder dem i lande som Pakistan og Indonesien, hvor generativ AI er blevet brugt bredt, er der lidt eller ingen beviser, der antyder, at teknologien uretfærdigt påvirkede resultatet til fordel for bestemte politikere. Med den enorme mængde daglige sociale medieindlæg på verdensplan er AI-drevne løgne, selv sofistikerede som dem skabt af Hood, stadig en op ad bakke-kamp for at opnå betydelig opbakning. Offentlige personer, tech-ledere og uafhængige valgovervågningsgrupper opfordrer offentligt til forsigtighed, når de håndterer en hurtigt udviklende teknologi, der overstiger eksisterende kontrolforanstaltninger. Dog forbliver virkningen af AI-genereret misinformation under årets globale valgcyklus for mange primært teoretisk snarere end bekræftet med konkrete beviser. Under en diskussion om virkningen af AI-drevne løgne på verdensomspændende valg i 2024 anerkendte Nick Clegg, præsident for globale anliggender hos Meta, at tendenserne muligvis kan ændre sig dramatisk, men bemærkede, at der hidtil ikke har været tydelige indikationer på større forstyrrelser.