Technologia sztucznej inteligencji przyczynia się do globalnego zagrożenia dezinformacją wyborczą, ułatwiając jednostkom tworzenie przekonujących fejków, których celem jest wprowadzenie wyborców w błąd. Wcześniej stworzenie fałszywych obrazów, filmów lub dźwięków wymagało znacznych zasobów, ale teraz darmowe lub niskokosztowe usługi generacyjne AI umożliwiają tworzenie wysokiej jakości "deepfake'ów" jedynie na podstawie wprowadzonego tekstu. To spowodowało wzrost liczby deepfake’ów AI związanych z wyborami w Europie i Azji. Obawa dotyczy już nie tego, czy deepfake’i AI mogą wpływać na wyniki wyborów, ale raczej jak wielkie mogą mieć wpływ. Stanowi to wyzwanie dla demokracji, ponieważ deepfake’i AI mogą manipulować wizerunkiem kandydatów i wpływać na wyborców, niszcząc publiczne zaufanie do tego, co widzą i słyszą.

Wykrycie sprawców deepfake’ów AI jest trudne, a obecnie rządy i firmy nie są odpowiednio wyposażone do zwalczania tego problemu. Chociaż niektóre firmy technologiczne podpisały umowy w celu zapobieżenia zakłóceniom AI w wyborach, ograniczanie deepfake’ów w aplikacjach takich jak Telegram pozostaje wyzwaniem. Działania mające na celu ograniczenie deepfake’ów AI mogą mieć niezamierzone konsekwencje, takie jak naruszanie komentarzy politycznych. Ponadto sami kandydaci mogą próbować wprowadzić wyborców w błąd, twierdząc, że negatywne sytuacje zostały sfabrykowane przez AI. Ogólnie rzecz biorąc, rozpowszechnienie deepfake’ów AI tworzy trudne środowisko dla demokracji.