Istraživanje Consumer Reports-a otkrilo je da većina vodećih programa za kloniranje glasa pomoću veštačke inteligencije nema adekvatne bezbednosne mere, što omogućava pojedincima da neovlašćeno oponašaju druge. U poslednjim godinama, tehnologija kloniranja glasa putem veštačke inteligencije značajno je napredovala, omogućavajući mnogim uslugama da verodostojno repliciraju govorne obrasce osobe sa samo nekoliko sekundi zvuka. Zapaženi incident dogodio se tokom prošlogodišnjih demokratskih preliminarnih izbora kada su robok pozivi sa lažnim Džoom Bajdenom preplavili telefone birača, savetujući ih da ne glasaju. Politički konsultant iza ovog plana dobio je kaznu od 6 miliona dolara, a Savezna komisija za komunikacije je od tada zabranila robok pozive generisane veštačkom inteligencijom. Nedavna anketa o šest glavnih javno dostupnih alata za kloniranje glasa pomoću veštačke inteligencije pokazala je da su pet njih lako zaobišli mere bezbednosti, što olakšava kloniranje glasova bez pristanka. Softver za detekciju dubokih laži često ima teškoće da razlikuje stvarne i sintetičke glasove. Generativna veštačka inteligencija, koja imitira ljudske osobine kao što su glas, pisanje i izgled, brzo se razvija, a federalna regulativa je minimalna. Većina sigurnosnih i etičkih smernica unutar industrije je samoinicirana. Predsednik Bajden uključio je neka sigurnosna pravila u svoje izvršne naloge o veštačkoj inteligenciji iz 2023. godine, ali su ta pravila opozvana od strane predsednika Trampa kada je preuzeo dužnost. Tehnologija kloniranja glasa funkcioniše tako što snima zvučni uzorak glas osobe i proizvodi sintetičku audio datoteku na osnovu tog uzorka.

Bez adekvatnih zaštitnih mera, bilo ko može da kreira nalog, uplodi zvuk sa platforme poput TikTok-a ili YouTube-a, i da potrazi uslugu koja će replicirati glas te osobe. Četiri alata—ElevenLabs, Speechify, PlayHT i Lovo—prosto zahtevaju od korisnika da označe polje koje potvrđuje da je osoba čiji se glas klonira to odobrila. Resemble AI ima nešto stroži zahtev, koji nalaže snimanje zvučnog zapisa u realnom vremenu. Ipak, Consumer Reports je uspeo da to zaobiđe tako što je puštao prethodno snimljeni audio zapis sa računara. Jedina usluga sa relativno efikasnom zaštitom je Descript, koja zahteva da osoba koja želi da klonira glas snimi specifičnu izjavu o pristanku, čineći falsifikovanje teže u poređenju sa korišćenjem drugih usluga. Sva šest alata mogu se javno pristupiti na njihovim veb-sajtovima, pri čemu ElevenLabs i Resemble AI naplaćuju 5 i 1 dolar, redom, za kreiranje prilagođenog klona glasa, dok su ostali besplatni za korišćenje. Neke od ovih kompanija priznaju potencijal za zloupotrebu svojih proizvoda i tvrde da su implementirale jake mere zaštite protiv kreiranja dubokih laži ili olakšavanja oponašanja glasa. Portparol Resemble AI-a izjavio je za NBC News: „Prepoznajemo potencijal za zloupotrebu ovog moćnog alata i implementirali smo robusne mere zaštite kako bismo sprečili kreiranje dubokih laži i zaštitili se od oponašanja glasa. “ Postoje legitimne primene za kloniranje glasa uz pomoć veštačke inteligencije, poput pomoći osobama sa invaliditetom i generisanja audio prevoda na više jezika. Međutim, potencijal za zloupotrebu je značajan, prema Sari Majers Vest, suizvršnoj direktorki AI Now Instituta, think tanka koji ispituje implikacije politike veštačke inteligencije. Ona je izjavila za NBC News: „Ovo bi očigledno moglo da se koristi za prevaru, prevare i dezinformacije, posebno za oponašanje institucionalnih ličnosti. “ Istraživanje o prisutnosti veštačke inteligencije u prevarama zasnovanim na audio sadržaju je ograničeno. U prevarama poznatim kao „prevara sa bakama“, na primer, kriminalac kontaktira nekoga tvrdeći da postoji hitna situacija koja uključuje člana porodice, poput otmice ili povrede. Savezna trgovinska komisija obavestila je javnost o mogućoj upotrebi veštačke inteligencije u ovim shemama, iako su takve prevare postojale i pre pojave ove tehnologije.