Manipulované video se s falešným hlasem viceprezidentky Kamaly Harris vyvolalo obavy ohledně potenciálu AI klamat lidi, jak se blíží prezidentské volby v USA. Video, původně zveřejněné jako parodie, získalo pozornost poté, co jej Elon Musk sdílel na své sociální platformě. Využívá záběry ze skutečné reklamy, kterou Harris vydala, ale nahrazuje původní hlasový přenos přesvědčivou imitací. Video obsahuje falešná tvrzení o Harris, což ji vykresluje jako nevhodnou pro úřad. Incident zdůrazňuje potřebu regulace a pokynů ohledně používání AI v politice, jelikož přístupné nástroje AI lze použít k tvorbě realistického a zavádějícího obsahu.

Přijetí videa také vyvolává otázky o tom, jak nakládat s obsahem generovaným pomocí AI, který rozmazává hranice mezi satirou a klamáním. Zatímco původní uživatel videa uvedl jeho parodický charakter, Muskův sdílený příspěvek to výslovně neuvádí, čímž může potenciálně klamat diváky. Zvuk videa byl potvrzen jako generovaný pomocí AI technologie. Odborníci zdůrazňují odpovědnost AI společností, aby předcházely škodám a zajistily, že jejich nástroje nejsou použity k oklamávání nebo manipulaci lidí nebo demokracie. Advokační skupiny vyzvaly k regulaci generativní AI, ale v současnosti regulace AI v politice většinou spadá na jednotlivé státy a sociální platformy.