Les dangers des deepfakes d'IA dans la prochaine élection présidentielle de 2024 suscitent des préoccupations parmi les experts et les responsables. Ces vidéos manipulées créées à l'aide de l'intelligence artificielle ont le potentiel de continuer à éroder la vérité et de déstabiliser les électeurs. Des exemples de deepfakes mettant en scène des personnalités politiques ont déjà causé le chaos et la confusion. En réponse, diverses mesures sont prises, telles que des enquêtes sur les appels téléphoniques automatisés deepfake, des avertissements aux électeurs et l'adoption de projets de loi pour restreindre l'utilisation de la technologie deepfake dans les communications de campagne. À titre de démonstration des capacités de la technologie, un organisme de presse en Arizona a publié des vidéos deepfake d'un candidat au Congrès éminent, attirant l'attention sur la nécessité de vigilance et de pensée critique lors de la rencontre de tels contenus.

Bien que les vidéos aient été visionnées de manière significative, elles ont également provoqué une lettre de cessation et d'abstention de la part du véritable candidat, qui les jugeait objectables. L'organisme de presse étudie sa réponse et considère les deepfakes comme des outils éducatifs visant à aider les lecteurs à détecter les manipulations futures. Les experts soulignent l'importance de différencier les contenus authentiques et manipulés, ainsi que la préoccupation selon laquelle tout est devenu suspect. Les chercheurs développent des logiciels pour détecter les deepfakes, mais la technologie évolue, rendant de plus en plus difficile l'identification des fausses vidéos.