En manipulert video med en falsk voiceover av visepresident Kamala Harris har skapt bekymring for potensialet for at AI kan lure folk etter hvert som presidentvalget i USA nærmer seg. Videoen, som opprinnelig ble utgitt som en parodi, fikk oppmerksomhet etter å ha blitt delt av Elon Musk på hans sosiale medieplattform. Den bruker opptak fra en ekte annonse utgitt av Harris, men erstatter den originale voiceoveren med en overbevisende imitasjon. Videoen inneholder falske påstander om Harris, og fremstiller henne som uskikket for embetet. Hendelsen fremhever behovet for regulering og retningslinjer rundt bruk av AI i politikken, ettersom tilgjengelige AI-verktøy kan lage realistisk og misvisende innhold.

Videoens mottakelse reiser også spørsmål om hvordan man skal håndtere AI-generert innhold som visker ut linjene mellom satire og bedrag. Mens den opprinnelige brukeren av videoen avslørte dens parodistatus, indikerte ikke Musks delte innlegg dette eksplisitt, noe som potensielt ville villedet seere. Videoens lyd ble bekreftet å være generert ved hjelp av AI-teknologi. Eksperter understreker ansvaret til AI-selskaper for å forhindre skade og sikre at deres verktøy ikke brukes til å bedra eller manipulere mennesker eller demokratiet. Talsmannsgrupper har bedt om regulering av generativ AI, men for øyeblikket faller reguleringen av AI i politikken for det meste til stater og sosiale medieplattformer.