Zmanipulované video vyvolává obavy ohledně AI a dezinformací během voleb Zmanipulované video imitující hlas viceprezidentky USA Kamaly Harrisové vyvolalo obavy z potenciálu umělé inteligence (AI) k uvádění veřejnosti v omyl během voleb. Video získalo pozornost poté, co jej Elon Musk, CEO společnosti Tesla a SpaceX, sdílel na své sociální platformě X, aniž by zpočátku uvedl, že jde o parodii. Musk video od té doby znovu sdílel s původním titulkem uživatele, přičemž uznává, že jde o parodii a zdůrazňuje, že parodie je v USA legální. Video používá vizuály z legitimní prezidentské kampaně Harrisové, ale nahrazuje její hlasový doprovod někým, kdo napodobuje pravděpodobného demokratického prezidentského kandidáta. V reakci na to Mia Ehrenbergová, mluvčí kampaně Harrisové, uvedla: „Věříme, že američtí občané chtějí skutečnou svobodu, příležitost a bezpečnost, kterou nabízí viceprezidentka Harrisová, nikoli falešné, zmanipulované lži šířené Elonem Muskem a Donaldem Trumpem. “ Toto široce šířené video ukazuje, jak lze obsah generovaný AI s realistickými vlastnostmi použít k parodii nebo klamání v politickém kontextu během voleb. Někteří online uživatelé zpochybňovali, zda Muskův příspěvek neporušuje pravidla X, která zakazují sdílení syntetických, zmanipulovaných nebo vytržených z kontextu médií, které by mohly uvést lidi v omyl nebo je zmást. Politika však umožňuje memy a satiru, pokud výrazně neuvádějí lidi v omyl ohledně autentičnosti obsahu. Muskův původní příspěvek videa nespecifikoval jeho parodickou povahu a obsahoval pouze slova „To je úžasné“. Technický miliardář nedávno podpořil bývalého prezidenta Donalda Trumpa, republikánského kandidáta. Ani youtuber, který video zveřejnil, známý jako Mr. Reagan, ani Musk nereagovali na žádosti o komentář. Vznikají obavy ohledně síly médií generovaných AI Dva odborníci specializující se na média generovaná AI analyzovali zvuk v falešné reklamě a potvrdili, že významná část byla vytvořena pomocí AI technologie. Hany Farid, odborník na digitální forenziku z Kalifornské univerzity v Berkeley, uvedl, že video zdůrazňuje schopnosti generativní AI a deepfake. „AI-generovaný hlas je velmi přesvědčivý, “ poznamenal Farid. „Ačkoli většina lidí neuvěří, že jde o hlas viceprezidentky Harrisové, video se stává ještě vlivnějším, když jsou slova pronesena jejím hlasem. “ Farid také zdůraznil odpovědnost AI společností, které poskytují nástroje pro klonování hlasu a další AI nástroje veřejnosti, a vyzval je, aby zabránily používání jejich služeb způsoby, které by mohly poškodit jednotlivce nebo demokracii. Rob Weissman, spolu prezident advokační skupiny Public Citizen, však nesouhlasil s Faridem a naznačil, že mnoho lidí by video bylo oklamáno. „Nemyslím si, že je to očividně vtip, “ řekl Weissman.

„Jsem si jistý, že většina lidí, kteří se na to dívají, nepředpokládá, že jde o vtip. Kvalita není dokonalá, ale je dostatečně dobrá. A protože to posiluje existující narativy týkající se Kamaly Harrisové, většina lidí je náchylná věřit, že je to skutečné. “ Weissman, jehož organizace vyzvala k regulačním opatřením na řešení generativní AI, považuje video za jasný příklad obav, které vznášeli.