L'intelligence artificielle (IA) amplifie la menace de la désinformation électorale dans le monde entier. Avec la disponibilité de services IA génératifs gratuits et à bas coût, n'importe qui avec un smartphone peut créer des "deepfakes" convaincants dans le but de tromper les électeurs. Cette technologie a évolué rapidement ces dernières années, nécessitant moins de ressources et de compétences techniques pour produire du contenu falsifié. Les deepfakes IA ont déjà été observés lors d'élections en Europe et en Asie, suscitant des inquiétudes quant à leur impact sur la confiance et les processus démocratiques. Ils peuvent être utilisés pour diffamer ou manipuler l'image des candidats, orienter les électeurs en faveur ou à l'encontre de certains candidats, ou encore éroder la confiance du public dans l'information. Le traçage de l'origine des deepfakes IA est difficile, car les gouvernements et les entreprises sont actuellement incapables de prévenir ou de résoudre efficacement le problème.

Les autorités du monde entier tentent d'établir des réglementations pour atténuer les risques des deepfakes IA, mais les progrès ont été lents. L'Union européenne a imposé l'année prochaine une étiquette spéciale pour les deepfakes, tandis que certaines entreprises technologiques se sont engagées volontairement à empêcher les outils IA de perturber les élections. Cependant, éviter les conséquences involontaires de la réglementation des deepfakes pose des défis, car des commentaires politiques légitimes peuvent parfois être confondus avec de la désinformation. L'utilisation croissante de l'IA soulève d'autres préoccupations, les chatbots alimentés par l'IA fournissant souvent de fausses informations ou trompeuses qui peuvent exclure les électeurs. De plus, les candidats peuvent tenter de tromper les électeurs en prétendant que des événements réels ont été créés à l'aide de l'IA. Dans l'ensemble, la montée des deepfakes IA menace la confiance et la démocratie lors des élections dans le monde entier.