Artificiell intelligens (AI) förstärker hotet om valdesinformation globalt. Med tillgången till kostnadsfria och billiga generativa AI-tjänster kan vem som helst med en smartphone skapa övertygande "deepfakes" i syfte att lura väljare. Denna teknologi har utvecklats snabbt de senaste åren och kräver färre resurser och tekniska kunskaper för att producera fejkade innehåll. AI-deepfakes har redan observerats i val över hela Europa och Asien, vilket väcker oro över deras påverkan på förtroendet och demokratiska processer. De kan användas för att smutskasta eller manipulera kandidaters bilder, styra väljare mot eller bort från vissa kandidater eller underminera allmän tillit till information. Det är utmanande att spåra ursprunget av AI-deepfakes eftersom regeringar och företag för närvarande inte kan förhindra eller effektivt åtgärda problemet.

Myndigheter runt om i världen försöker införa reguleringar för att minska riskerna med AI-deepfakes, men framstegen har varit långsamma. Europeiska unionen har beordrat särskild märkning av deepfakes från och med nästa år, medan vissa teknikföretag frivilligt har lovat att förhindra att AI-verktyg stör valen. Att undvika oavsiktliga konsekvenser av att reglera deepfakes ställer dock utmaningar, eftersom legitim politisk kommentar ibland kan misstas för desinformation. Den ökande användningen av AI innebär ytterligare bekymmer, då AI-drivna chattbots ofta ger felaktig eller vilseledande information som kan förhindra väljares inflytande. Dessutom kan kandidater försöka lura väljare genom att hävda att genuina händelser skapades med hjälp av AI. Sammantaget hotar uppkomsten av AI-deepfakes förtroendet och demokratin i val över hela världen.