AI-teknologi bidrar till den globala hotet om desinformation i val genom att göra det enklare för individer att skapa övertygande falskt innehåll i syfte att vilseleda väljarna. Tidigare krävdes omfattande resurser för att skapa falska bilder, videor eller ljud, men nu tillåter gratis eller billig generativ AI-tjänster skapandet av högkvalitativa "deepfakes" med bara textinmatning. Detta har lett till en ökning av AI-deepfakes i samband med val i Europa och Asien. Oroet handlar inte längre om huruvida AI-deepfakes kan påverka val, utan snarare hur inflytelserika de kommer att vara. Det utgör en utmaning för demokratin eftersom AI-deepfakes kan manipulera en kandidats image och påverka väljare, vilket eroderar allmänhetens förtroende för det de ser och hör.

Att hitta förövarna bakom AI-deepfakes är svårt, och regeringar och företag är för närvarande dåligt rustade för att bekämpa detta problem. Medan vissa teknikföretag har undertecknat avtal för att förhindra AI-störningar i val, är det fortsatt utmanande att begränsa deepfakes på appar som Telegram. Ansträngningar för att begränsa AI-deepfakes kan ha oavsiktliga konsekvenser, som att inskränka på politiska kommentarer. Dessutom kan kandidater själva försöka vilseleda väljare genom att påstå att negativa situationer är fabricerade av AI. Sammantaget skapar spridningen av AI-deepfakes en utmanande miljö för demokratin.