A inteligência artificial (IA) está amplificando a ameaça da desinformação eleitoral em todo o mundo. Com a disponibilidade de serviços de IA generativa gratuitos e de baixo custo, qualquer pessoa com um smartphone pode criar "deepfakes" convincentes com o objetivo de enganar os eleitores. Essa tecnologia tem evoluído rapidamente nos últimos anos, exigindo menos recursos e habilidades técnicas para produzir conteúdo falso. Deepfakes de IA já foram vistos em eleições em toda a Europa e Ásia, levantando preocupações sobre seu impacto na confiança e nos processos democráticos. Eles podem ser usados para difamar ou manipular imagens de candidatos, direcionar eleitores a favor ou contra determinados candidatos, ou minar a confiança pública nas informações. Rastrear a origem dos deepfakes de IA é um desafio, pois governos e empresas atualmente não conseguem prevenir ou resolver o problema de forma eficaz.

Autoridades de todo o mundo estão tentando estabelecer regulamentações para mitigar os riscos dos deepfakes de IA, mas o progresso tem sido lento. A União Europeia impôs a rotulagem especial de deepfakes a partir do próximo ano, enquanto algumas empresas de tecnologia se comprometeram voluntariamente a evitar que ferramentas de IA perturbem as eleições. No entanto, evitar as consequências não intencionais da regulamentação de deepfakes apresenta desafios, pois comentários políticos legítimos às vezes podem ser confundidos com desinformação. O aumento do uso de IA também apresenta preocupações, pois os chatbots alimentados por IA muitas vezes fornecem informações falsas ou enganosas que podem privar os eleitores de seus direitos. Além disso, candidatos podem tentar enganar os eleitores alegando que eventos genuínos foram criados usando IA. Como um todo, o surgimento dos deepfakes de IA ameaça a confiança e a democracia nas eleições em todo o mundo.