AI-technologie draagt bij aan de wereldwijde dreiging van verkiezingsmisinformatie door het gemakkelijker maken voor individuen om overtuigend nepmateriaal te creëren dat erop gericht is kiezers te misleiden. Voorheen vereiste het creëren van valse beelden, video's of audio uitgebreide middelen, maar nu stellen gratis of goedkope generatieve AI-diensten mensen in staat om hoogwaardige "deepfakes" te creëren met slechts tekstinvoer. Dit heeft geleid tot een toename van AI deepfakes in verband met verkiezingen in Europa en Azië. De zorg is niet langer of AI deepfakes invloed kunnen hebben op verkiezingen, maar eerder hoe invloedrijk ze zullen zijn. Het vormt een uitdaging voor de democratie, aangezien AI deepfakes het imago van een kandidaat kunnen manipuleren en kiezers kunnen beïnvloeden, waardoor het publieke vertrouwen in wat ze zien en horen wordt ondermijnd.

Het vinden van de daders achter AI deepfakes is moeilijk en overheden en bedrijven zijn momenteel slecht uitgerust om dit probleem aan te pakken. Hoewel sommige techbedrijven overeenkomsten hebben getekend om AI-verstoringen bij verkiezingen te voorkomen, blijft het beperken van deepfakes op apps zoals Telegram een uitdaging. Inspanningen om AI deepfakes te beteugelen kunnen onbedoelde gevolgen hebben, zoals inbreuk op politiek commentaar. Bovendien zouden kandidaten zelf kunnen proberen kiezers te misleiden door te beweren dat negatieve situaties zijn gefabriceerd door AI. Al met al creëert de verspreiding van AI deepfakes een uitdagende omgeving voor de democratie.