Kunstig intelligens (AI) forstærker truslen om valgdesinformation på verdensplan. Med tilgængeligheden af gratis og billige generative AI-tjenester kan enhver med en smartphone oprette overbevisende "deepfakes" med det formål at narre vælgere. Denne teknologi har udviklet sig hurtigt i de seneste år og kræver færre ressourcer og tekniske færdigheder til at producere falsk indhold. AI deepfakes er allerede blevet set i valg rundt omkring i Europa og Asien, hvilket giver bekymring for deres indvirkning på tillid og demokratiske processer. De kan bruges til at sværte eller manipulere kandidaters billeder, lede vælgere hen imod eller væk fra visse kandidater eller underminere offentlig tillid til information. At spore oprindelsen af AI deepfakes er udfordrende, da regeringer og virksomheder i øjeblikket ikke er i stand til effektivt at forhindre eller håndtere problemet.

Myndigheder over hele verden forsøger at etablere reguleringer for at mindske risikoen ved AI deepfakes, men fremskridtene har været langsomme. Den Europæiske Union har pålagt særlig mærkning af deepfakes fra næste år, mens nogle teknologivirksomheder frivilligt har lovet at forhindre AI-værktøjer i at forstyrre valg. Dog udgør undgåelse af utilsigtede konsekvenser ved regulering af deepfakes udfordringer, da legitim politisk kommentar nogle gange kan forveksles med desinformation. Den stigende brug af AI giver yderligere bekymringer, da AI-drevne chatbots ofte giver falsk eller misvisende information, der kan fratage vælgere deres stemmeret. Derudover kan kandidater forsøge at narre vælgere ved at hævde, at ægte begivenheder blev skabt ved hjælp af AI. Alt i alt truer stigningen i AI deepfakes tilliden og demokratiet ved valg over hele verden.