L'intelligence artificielle (IA) change rapidement le paysage des campagnes politiques, soulevant des préoccupations quant à son potentiel à nuire à l'intégrité électorale, notamment par la création de deepfakes et de désinformation. À l'approche de l'élection présidentielle américaine, les risques associés aux outils d'IA, de plus en plus avancés et accessibles, font l'objet d'une attention accrue. Un exemple notable est une vidéo deepfake du président Joe Biden, le présentant de manière trompeuse comme exhortant les gens à ne pas voter. Un tel contenu trompeur menace d'éroder la confiance du public dans les processus démocratiques, car les vidéos ou audios manipulés peuvent fabriquer de manière convaincante de fausses déclarations de figures publiques. Pour contrer cette menace croissante, des organisations comme Full Fact utilisent des outils d'IA pour vérifier en temps réel les affirmations en analysant les discours et les manifestes. Cependant, elles rencontrent des défis, notamment avec la propagation rapide des deepfakes sur les réseaux sociaux, qui peuvent circuler plus vite que les vérificateurs de faits ne peuvent les vérifier. Mustafa Suleyman, cofondateur de DeepMind, avertit dans son livre "The Coming Wave" que si l'IA reste incontrôlée, elle pourrait gravement perturber les systèmes démocratiques. Il appelle à des réglementations plus strictes pour empêcher l'utilisation abusive de l'IA dans la tromperie ou la manipulation des électeurs, reflétant un consensus académique plus large sur la nécessité de contrôle pour éviter la déstabilisation électorale mondiale. Les sondages indiquent que le public est conscient des dangers potentiels de l'IA ; une enquête YouGov a révélé que près de la moitié des Américains s'inquiètent de l'IA posant une menace pour l'humanité. Des experts comme Sean Brehm suggèrent de se concentrer sur un avenir collaboratif entre les humains et l'IA, plutôt qu'un scénario de prise de contrôle dystopique.

De même, Anahid Basiri de l'Université de Glasgow compare les craintes de la domination de l'IA aux préoccupations passées concernant Internet et les automobiles, soulignant la nécessité de trouver un équilibre entre les avantages et les risques de l'innovation. ChatGPT offre une réponse nuancée à l'idée de "prise de contrôle" par l'IA, déclarant que bien que l'IA soit compétente dans les tâches spécialisées, elle n'a pas atteint l'intelligence artificielle générale (AGI), ce qui permettrait aux machines d'effectuer toute tâche intellectuelle qu'un humain peut réaliser. Les opinions varient quant au moment ou même à la faisabilité de l'AGI, certains experts spéculant qu'elle pourrait être réalisée dans des décennies, tandis que d'autres en doutent. Les préoccupations entourant l'AGI incluent des applications militaires potentielles, l'automatisation des emplois et des questions éthiques concernant l'alignement sur les valeurs humaines. Des organisations comme OpenAI explorent des méthodes pour développer des systèmes d'IA sûrs grâce à l'alignement des valeurs et à la gouvernance. À l'avenir, le court terme suggère des améliorations significatives dans les applications de l'IA dans des domaines spécifiques, tandis que le moyen terme soulève des possibilités spéculatives concernant l'émergence de l'AGI. Les prédictions à long terme restent incertaines, soulignant la nécessité d'une surveillance diligente pour garantir que le développement de l'IA mène à des résultats bénéfiques plutôt que nuisibles. En conclusion, il est peu probable que l'IA "prenne le contrôle du monde" de sitôt. Bien que le développement de l'AGI puisse entraîner des risques importants, nous sommes actuellement loin de cette réalité. L'impact futur de l'IA dépendra en grande partie des cadres éthiques, de la gouvernance et des réglementations de sécurité établis par l'humanité.