Manipulirani video izaziva zabrinutost zbog AI i dezinformacija tijekom izbora Manipulirani video koji oponaša glas potpredsjednice SAD-a Kamale Harris izazvao je zabrinutost zbog potencijala umjetne inteligencije (AI) da zavede javnost tijekom izbora. Video je privukao pažnju kada ga je Elon Musk, CEO Tesle i SpaceX-a, podijelio na svojoj društvenoj mreži X, bez početnog pojašnjenja da je to parodija. Musk je otada ponovo podijelio video s originalnim opisom korisnika, priznajući ga kao parodiju i naglašavajući da je parodija legalna u Sjedinjenim Američkim Državama. Video koristi vizuale iz legitimnog oglasa predsjedničke kampanje Harris, ali zamjenjuje njezinu voicer s glasom koji oponaša vjerojatnu demokratsku predsjedničku kandidatkinju. Kao odgovor, Mia Ehrenberg, glasnogovornica kampanje Harris, izjavila je: „Vjerujemo da američki narod želi pravu slobodu, priliku i sigurnost koje potpredsjednica Harris nudi; ne lažne, manipulirane laži koje šire Elon Musk i Donald Trump. “ Ovaj široko distribuirani video pokazuje kako se AI-generirani sadržaj s uvjerljivim karakteristikama može koristiti za parodiju ili zavaravanje u političkom kontekstu tijekom izbora. Neki online korisnici postavljaju pitanje je li Muskova objava prekršila X-ovu politiku, koja zabranjuje dijeljenje sintetičkih, manipuliranih ili izvan-kontekstnih medija koji bi mogli zavarati ili zbuniti ljude. Politika dozvoljava memove i satiru, sve dok značajno ne zbunjuju ljude o autentičnosti sadržaja. Muskova originalna objava videa nije specificirala njegovu parodičnu prirodu i samo je uključivala riječi „Ovo je nevjerojatno“. Tehnološki milijarder nedavno je podržao bivšeg predsjednika Donalda Trumpa, republikanskog kandidata. Ni YouTuber koji je objavio video, poznat kao Mr Reagan, niti Musk nisu odgovorili na zahtjeve za komentar. Pojavljuje se zabrinutost zbog moći AI-generiranih medija Dva stručnjaka specijalizirana za AI-generirane medije analizirali su audio u lažnom oglasu i potvrdili da je značajan dio proizveden korištenjem AI tehnologije. Hany Farid, stručnjak za digitalnu forenziku na Sveučilištu Kalifornija, Berkeley, izjavio je da video ističe sposobnosti generativne AI i deepfakea. „AI-generirani glas je vrlo uvjerljiv, “ primijetio je Farid. „Iako većina ljudi neće povjerovati da je to glas potpredsjednice Harris, video postaje još utjecajniji kada se riječi izgovaraju njenim glasom. “ Farid je također naglasio odgovornost AI kompanija koje daju javnosti alate za kloniranje glasa i druge AI alate, pozivajući ih da spriječe korištenje svojih usluga na načine koji bi mogli štetiti pojedincima ili demokraciji. Međutim, Rob Weissman, suvlasnik zagovaračke skupine Public Citizen, nije se složio s Faridom, sugerirajući da bi mnogi ljudi mogli biti prevareni videom. „Ne mislim da je to očito šala, “ primijetio je Weissman. „Siguran sam da većina ljudi koji ga gledaju ne misle da je to šala.

Kvaliteta nije savršena, ali je dovoljno dobra. I zbog toga što pojačava postojeće narative o Kamali Harris, većina ljudi je sklona vjerovati da je to stvarno. “ Weissman, čija organizacija poziva na regulatorne mjere za rješavanje generativne AI, smatra da je video jasan primjer zabrinutosti na koje ukazuju.