Kunstmatige intelligentie (AI) vergroot wereldwijd het gevaar van verkiezingsdesinformatie. Met de beschikbaarheid van gratis en goedkope generatieve AI-diensten kan iedereen met een smartphone overtuigende "deepfakes" creëren die bedoeld zijn om kiezers te misleiden. Deze technologie heeft zich de afgelopen jaren snel ontwikkeld en vereist steeds minder middelen en technische vaardigheden om nepinhoud te produceren. AI deepfakes zijn al waargenomen bij verkiezingen in heel Europa en Azië, wat zorgen baart over hun impact op vertrouwen en democratische processen. Ze kunnen worden gebruikt om kandidaten in diskrediet te brengen of te manipuleren, kiezers naar bepaalde kandidaten te sturen of ervan af te houden, of het publieke vertrouwen in informatie te ondermijnen. Het is moeilijk om de oorsprong van AI deepfakes te traceren, aangezien regeringen en bedrijven momenteel niet in staat zijn om het probleem effectief te voorkomen of aan te pakken.

Autoriteiten over de hele wereld proberen regelgeving in te voeren om de risico's van AI deepfakes te beperken, maar de voortgang verloopt traag. De Europese Unie heeft vanaf volgend jaar de verplichte speciale labeling van deepfakes opgelegd, terwijl sommige technologiebedrijven vrijwillig hebben toegezegd om AI-tools te voorkomen die verkiezingen verstoren. Het vermijden van onbedoelde gevolgen bij het reguleren van deepfakes brengt echter uitdagingen met zich mee, aangezien legitiem politiek commentaar soms verward kan worden met desinformatie. De toenemende inzet van AI brengt ook verdere zorgen met zich mee, aangezien AI-aangedreven chatbots vaak valse of misleidende informatie verstrekken die kiezers kan uitsluiten. Bovendien kunnen kandidaten proberen kiezers te bedriegen door te beweren dat echte gebeurtenissen zijn gecreëerd met behulp van AI. Al met al bedreigt de opkomst van AI deepfakes het vertrouwen en de democratie in verkiezingen wereldwijd.