Vídeo manipulat genera preocupacions sobre la IA i la desinformació durant les eleccions Un vídeo manipulat que imita la veu de la vicepresidenta dels EUA, Kamala Harris, ha desencadenat preocupacions sobre el potencial de la intel·ligència artificial (IA) per enganyar al públic durant les eleccions. El vídeo va cridar l'atenció quan Elon Musk, CEO de Tesla i SpaceX, el va compartir a la seva plataforma de xarxes socials X, sense clarificar inicialment que era una paròdia. Des de llavors, Musk ha tornat a compartir el vídeo amb la llegenda original de l'usuari, reconeixent-ho com una paròdia i subratllant que la paròdia és legal als Estats Units. El vídeo utilitza imatges d'un anunci legítim de la campanya presidencial de Harris, però substitueix la seva veu en off per una que imita la probable candidata presidencial demòcrata. En resposta, Mia Ehrenberg, una portaveu de la campanya de Harris, va afirmar, "Creiem que el poble nord-americà vol la llibertat real, l'oportunitat i la seguretat que la vicepresidenta Harris ofereix; no les mentides falses i manipulades difoses per Elon Musk i Donald Trump. " Aquest vídeo àmpliament difós demostra com el contingut generat amb IA amb característiques realistes es pot utilitzar per fer paròdies o enganyar en un context polític durant les eleccions. Alguns usuaris en línia es van qüestionar si la publicació de Musk violava les polítiques de X, que prohibeixen la compartició de mitjans sintètics, manipulats o fora de context que podrien enganyar o confondre la gent. La política permet mems i sàtira, sempre que no confonguin significativament a la gent sobre l'autenticitat del contingut. La publicació original de Musk del vídeo no especificava la seva naturalesa de paròdia i només incloïa les paraules "Aquest és increïble. " El multimilionari tecnològic va donar suport recentment a l'expresident Donald Trump, el candidat republicà. Ni el YouTuber que va publicar el vídeo, conegut com Mr Reagan, ni Musk han respost a les sol·licituds de comentari. Preocupacions sobre el poder dels mitjans generats amb IA Dos experts especialitzats en mitjans generats amb IA van analitzar l'àudio en l'anunci fals i van confirmar que una part significativa va ser produïda utilitzant tecnologia IA. Hany Farid, un expert en forense digital a la Universitat de Califòrnia, Berkeley, va comentar que el vídeo destaca les capacitats de la IA generativa i els deepfakes. "La veu generada per IA és molt convincent, " va assenyalar Farid. "Encara que la majoria de gent no creurà que sigui la veu de la vicepresidenta Harris, el vídeo es torna encara més influent quan les paraules es parlen amb la seva veu. " Farid també va destacar la responsabilitat de les empreses de IA que proporcionen eines de clonació de veu i altres eines d'IA al públic, instándolas a impedir que els seus serveis s'utilitzin de maneres que puguin perjudicar a les persones o la democràcia. No obstant això, Rob Weissman, copresident del grup de defensa Public Citizen, va discrepar amb Farid, suggerint que molta gent seria enganyada pel vídeo. "No crec que sigui òbviament una broma, " va comentar Weissman. "Estic segur que la majoria de la gent que ho veu no assumeix que és una broma.

La qualitat no és perfecta, però és prou bona. I perquè reforça narratives existents sobre Kamala Harris, la majoria de la gent està inclinada a creure que és real. " Weissman, la seva organització ha demanat mesures reguladores per abordar la IA generativa, considera el vídeo com un exemple clar de les preocupacions que han estat subratllant.