La technologie d'intelligence artificielle (IA) générative, utilisée dans des applications populaires telles que ChatGPT, a le potentiel de permettre la création de textes, de vidéos et d'audios falsifiés de manière réaliste, pouvant être utilisés à des fins de manipulation politique. De plus, les grandes entreprises de médias sociaux ont réduit leurs engagements en matière de promotion de l'intégrité électorale. Les prochaines élections verront également l'influence de TikTok, avec son algorithme de recommandation, que certains experts estiment bien adapté pour propager des informations erronées. La combinaison de l'IA générative et des médias sociaux pose des défis importants, car la désinformation générée par l'IA peut cibler des individus sans intervention humaine, ce qui pourrait aggraver la polarisation politique.

Des plateformes telles que Facebook et YouTube ont réduit leurs politiques d'intégrité électorale, entraînant une augmentation des contenus racistes et antisémites. L'algorithme de TikTok est différent des autres plateformes, le rendant potentiellement plus vulnérable aux désinformations politiques, en particulier compte tenu de son jeune public. Pour faire face à ces défis, les plateformes devraient mettre en place des mesures telles que la limitation du partage de contenu, la mise en place de dispositifs de rupture pour les publications virales, l'augmentation des équipes de modération de contenu et la suppression des contenus falsifiés des fils d'actualité tout en en conservant une copie archivée à titre de référence. Ne pas agir pourrait aggraver la crise démocratique aux États-Unis.