A tecnologia de IA está contribuindo para a ameaça global da desinformação eleitoral ao facilitar a criação de conteúdo falso convincente, com o objetivo de enganar os eleitores. Anteriormente, criar imagens, vídeos ou áudios falsos exigia recursos extensos, mas agora, serviços de IA generativa gratuitos ou de baixo custo permitem a criação de "deepfakes" de alta qualidade apenas com entrada de texto. Isso levou a um aumento de deepfakes de IA associados a eleições na Europa e na Ásia. A preocupação não está mais em saber se os deepfakes de IA podem impactar as eleições, mas sim em quão influentes eles serão. Isso representa um desafio para a democracia, pois deepfakes de IA têm o poder de manipular a imagem de um candidato e influenciar os eleitores, minando a confiança pública no que veem e ouvem.

Encontrar os responsáveis pelos deepfakes de IA é difícil e governos e empresas estão atualmente despreparados para combater essa questão. Embora algumas empresas de tecnologia tenham assinado acordos para prevenir perturbações de IA em eleições, limitar os deepfakes em aplicativos como o Telegram ainda é desafiador. Os esforços para conter deepfakes de IA podem ter consequências não intencionais, como infringir a liberdade de expressão política. Além disso, os próprios candidatos podem tentar enganar os eleitores, alegando que situações negativas foram fabricadas por IA. No geral, a proliferação de deepfakes de IA cria um ambiente desafiador para a democracia.