A inteligência artificial generativa (IA), usada em aplicativos populares como o ChatGPT, tem o potencial de permitir a criação de textos, vídeos e áudios falsos realistas que podem ser usados para manipulação política. Além disso, grandes empresas de mídia social reduziram seus compromissos em promover a integridade das eleições. A próxima eleição também testemunhará a influência do TikTok, com seu algoritmo de recomendação, que alguns especialistas acreditam ser adequado para espalhar desinformação. A combinação de IA generativa e mídia social apresenta desafios significativos, pois a desinformação gerada pela IA pode mirar indivíduos sem a intervenção humana, potencialmente exacerbando a polarização política.

Plataformas como Facebook e YouTube reduziram suas políticas de integridade das eleições, levando a um aumento de conteúdo racista e antissemita. O algoritmo do TikTok é diferente de outras plataformas, tornando-o potencialmente mais suscetível a desinformação política, especialmente considerando seu público jovem. Para enfrentar esses desafios, as plataformas devem implementar medidas como limitar o compartilhamento de conteúdo, implementar cortes de circuito para postagens virais, aumentar as equipes de moderação de conteúdo e remover conteúdo falso dos feeds, mantendo uma cópia arquivada como referência. A falta de ação pode agravar a crise democrática nos Estados Unidos.