Egy manipulált videó, amely Kamala Harris alelnök hamis hangalámondását tartalmazza, aggodalmakat vet fel az AI embereket megtévesztő potenciálja kapcsán, ahogy az amerikai elnökválasztás közeledik. A videót, amely eredetileg paródiaként jelent meg, figyelemre méltatta, miután Elon Musk megosztotta saját közösségi média platformján. Az igazi Harris által készített reklám anyagát használja, de az eredeti hangalámondást egy meggyőző impersonációval helyettesíti. A videó hamis állításokat tartalmaz Harrisszel kapcsolatban, alkalmatlannak mutatva őt a hivatalra. Az eset kiemeli a szabályozás és iránymutatások szükségességét az AI politikában való használatával kapcsolatban, mivel hozzáférhető AI eszközökkel valósághű és félrevezető tartalmak hozhatók létre.

A videó fogadtatása szintén kérdéseket vet fel az AI által generált tartalmak kezelésével kapcsolatban, amelyek elmosják a szatíra és megtévesztés közötti határokat. Miközben a videó eredeti felhasználója feltüntette annak paródiastátuszát, Musk megosztott posztja nem utalt erre kifejezetten, potenciálisan félrevezetve a nézőket. A videó hangját megerősítették, hogy AI technológiával hozták létre. Szakértők hangsúlyozzák az AI cégek felelősségét a károk megelőzésében, valamint hogy eszközeiket ne használják emberek vagy a demokrácia megtévesztésére vagy manipulálására. Érdekképviseleti csoportok az generatív AI szabályozását sürgetik, de jelenleg az AI-politikában való szabályozása nagyjából az államokra és a közösségi média platformokra hárul.