Une vidéo manipulée avec une fausse voix off de la vice-présidente Kamala Harris a suscité des inquiétudes quant au potentiel de l'IA pour tromper les gens à l'approche de l'élection présidentielle américaine. La vidéo, initialement publiée comme une parodie, a attiré l'attention après avoir été partagée par Elon Musk sur sa plateforme de médias sociaux. Elle utilise des images d'une véritable publicité publiée par Harris, mais remplace la voix off originale par une imitation convaincante. La vidéo contient des affirmations fausses sur Harris, la présentant comme inapte à occuper ses fonctions. Cet incident souligne la nécessité de régulation et de directives concernant l'utilisation de l'IA en politique, car les outils d'IA accessibles peuvent créer un contenu réaliste et trompeur.

La réception de la vidéo soulève également des questions sur la manière de gérer le contenu généré par IA qui brouille les lignes entre la satire et la tromperie. Bien que l'utilisateur original de la vidéo ait divulgué son statut de parodie, le message partagé par Musk n'indiquait pas explicitement cela, ce qui pourrait tromper les spectateurs. L’audio de la vidéo a été confirmé comme ayant été généré à l'aide de la technologie IA. Les experts soulignent la responsabilité des entreprises d'IA de prévenir les dommages et de s'assurer que leurs outils ne sont pas utilisés pour tromper ou manipuler les gens ou la démocratie. Les groupes de défense ont appelé à la régulation de l'IA générative, mais actuellement, la régulation de l'IA en politique incombe largement aux États et aux plateformes de médias sociaux.