La technologie de l'IA contribue à la menace mondiale de la désinformation électorale en rendant plus facile la création de contenus falsifiés convaincants dans le but de tromper les électeurs. Auparavant, la création d'images, de vidéos ou d'audios falsifiés nécessitait des ressources considérables, mais maintenant, des services d'IA générative gratuits ou peu coûteux permettent la création de "deepfakes" de haute qualité avec seulement une saisie de texte. Cela a conduit à une augmentation des deepfakes liés aux élections en Europe et en Asie. La préoccupation n'est plus de savoir si les deepfakes de l'IA peuvent avoir un impact sur les élections, mais plutôt dans quelle mesure ils seront influents. Cela pose un défi à la démocratie car les deepfakes de l'IA peuvent manipuler l'image d'un candidat et influencer les électeurs, ce qui mine la confiance du public dans ce qu'il voit et entend.

Il est difficile de trouver les auteurs des deepfakes de l'IA et les gouvernements et les entreprises ne sont actuellement pas équipés pour lutter contre ce problème. Bien que certaines entreprises technologiques aient signé des accords pour prévenir les perturbations de l'IA lors des élections, limiter les deepfakes sur des applications telles que Telegram reste un défi. Les efforts visant à freiner les deepfakes de l'IA peuvent avoir des conséquences involontaires, comme empiéter sur le commentaire politique. De plus, les candidats eux-mêmes peuvent essayer de tromper les électeurs en prétendant que des situations négatives ont été fabriquées par l'IA. Dans l'ensemble, la prolifération des deepfakes de l'IA crée un environnement difficile pour la démocratie.