AI-teknologi bidrager til den globale trussel om valgdesinformation ved at gøre det nemmere for enkeltpersoner at skabe overbevisende falsk indhold med det formål at bedrage vælgere. Tidligere krævede skabelsen af falske billeder, videoer eller lyd omfattende ressourcer, men nu tillader gratis eller lavpris-generativ AI-tjenester skabelsen af høj kvalitet "deepfakes" med blot tekstinput. Dette har ført til en stigning i AI deepfakes forbundet med valg i Europa og Asien. Bekymringen handler ikke længere om, hvorvidt AI deepfakes kan påvirke valg, men snarere hvor indflydelsesrige de vil være. Det udgør en udfordring for demokratiet, da AI deepfakes kan manipulere en kandidats image og påvirke vælgere, hvilket undergraver offentlighedens tillid til det, de ser og hører.

At finde bagmændene bag AI deepfakes er vanskeligt, og regeringer og virksomheder er i øjeblikket dårligt rustet til at bekæmpe dette problem. Selvom nogle teknologivirksomheder har indgået aftaler for at forhindre AI-forstyrrelser ved valg, forbliver det en udfordring at begrænse deepfakes på apps som Telegram. Bemærk, at bestræbelserne på at inddæmme AI deepfakes kan have utilsigtede konsekvenser såsom at begrænse politiske kommentarer. Derudover kan kandidater selv forsøge at bedrage vælgere ved at hævde, at negative situationer blev fabrikeret af AI. Alt i alt skaber spredningen af AI deepfakes en udfordrende miljø for demokratiet.