Os perigos dos deepfakes de IA nas próximas eleições presidenciais de 2024 estão causando preocupação entre especialistas e autoridades. Esses vídeos manipulados criados usando inteligência artificial têm o potencial de ainda mais desgastar a verdade e desestabilizar o eleitorado. Exemplos de deepfakes com figuras políticas já causaram caos e confusão. Em resposta, várias medidas estão sendo tomadas, como investigações de chamadas automáticas deepfake, avisos aos eleitores e a aprovação de projetos de lei para restringir o uso da tecnologia deepfake nas comunicações de campanha. Para demonstrar as capacidades da tecnologia, uma organização de notícias no Arizona publicou vídeos deepfake de um proeminente candidato congressional, chamando a atenção para a necessidade de vigilância e pensamento crítico ao encontrar tal conteúdo.

Embora os vídeos tenham recebido visualizações significativas, eles também provocaram uma carta de cessar e desistir do candidato real, que os considerou objecionáveis. A organização de notícias está considerando sua resposta e vê os deepfakes como ferramentas educacionais para ajudar os leitores a detectar futuras manipulações. Especialistas enfatizam a importância de diferenciar entre conteúdo genuíno e manipulado e a preocupação de que tudo esteja se tornando suspeito. Pesquisadores estão desenvolvendo software para detectar deepfakes, mas a tecnologia está evoluindo, tornando cada vez mais difícil identificar vídeos falsos.