Tarbijate aruanne näitas, et enamikul juhtivatel tehisintellekti hääle kloonimise programmidel puuduvad piisavad kaitsemehhanismid, mis võimaldavad inimestel teisi ilma nõusolekuta jäljendada. Viimastel aastatel on hääle kloonimise AI-tehnoloogia oluliselt arenenud, võimaldades paljudel teenustel veenvalt kopeerida inimese kõne mustreid vaid mõne sekundi audio põhjal. Märkimisväärne juhtum leidis aset eelmise aasta demokraatide eelvalimistel, kui robokõned, millel oli vale Joe Bideni hääl, tulvasid valijate telefonidesse, soovitades neil mitte hääletada. Selle skeemi taga olnud poliitiline konsultant sai 6 miljoni dollari suuruse trahvi ja föderaalkommunikatsioonide komisjon on seejärel keelanud AI genereeritud robokõned. Hiljutine uuring kuue suure avalikult kätte saadava AI hääle kloonimise tööriista üle tuvastas, et viiel neist on kergesti ületatavad turvameetmed, muutes hääle kloonimise ilma nõusolekuta lihtsaks. Deepfake audio tuvastustarkvara leiab sageli, et reaalsete ja sünteetiliste häälte eristamine on keeruline. Generatiivne AI, mis jäljendab inimlikke omadusi nagu hääl, kirjutamine ja välimus, on kiiresti arenev valdkond, millel on minimaalne föderaalne regulatsioon. Enamik ohutuse ja eetika juhiseid tööstuses on enesereguleerivad. President Biden lisas oma 2023. aasta täidesaatev käsk AI-le mõned ohutusmeetmed, kuid need tühistati president Trumpi ametisse astumisel. Hääle kloonimise tehnoloogia toimib, salvestades isiku häälekliendi ja luues selle põhjal sünteetilise helifaili.

Ilma korralike kaitsemeetmeteta saab igaüks konto luua, üles laadida audio TikTokist või YouTubest ning lasta teenusel selle inimese häält kloonida. Neli tööriista - ElevenLabs, Speechify, PlayHT ja Lovo - nõuavad, et kasutajad kinnitaksid, et häält kloonitava isiku nõusolek on olemas. Resemble AI-l on veidi rangem nõue, mis nõuab reaalajas audio salvestamist. Kuid Tarbijate Ajakirjal õnnestus see mööda minna, mängides arvutist varasemalt salvestatud helifaili. Ainus teenus, millel on suhteliselt tõhus kaitsemeetod, on Descript, mis nõuab, et isik, kes soovib häält kloonida, salvestaks konkreetse nõusoleku avalduse, muutes valeandmete esitamise raskemaks võrreldes teiste teenustega. Kõiki kuut tööriista on võimalik avalikult nende veebisaitidelt ligipääseda, ElevenLabs ja Resemble AI küsivad vastavalt 5 ja 1 dollarit, et luua kohandatud häälkloon, samas kui teised on tasuta kasutada. Mõned neist ettevõtetest tunnustavad oma toodete väärkasutamise võimalust ja väidavad, et on rakendanud tugevaid kaitsemehhanisme sügavate valehäälte loomise või hääle jäljendamise hõlbustamise vastu. Resemble AI esindaja ütles NBC Newsile: "Me tunnustame seda voimast väärkasutust ja oleme rakendanud tugevaid kaitsemehhanisme sügavate valehäälte loomise ja hääle jäljendamise kaitsmiseks. " AI hääle kloonimisel on seaduslikke rakendusi, nagu abistamine puuetega isikutele ja helitõlgete genereerimine mitmes keeles. Siiski on väärkasutamise potentsiaal märkimisväärne, ütles Sarah Myers West, AI Now Instituudi kaasjuhataja, mõttekojale, mis uurib AI poliitika mõjusid. Ta ütles NBC Newsile: "Seda võiks ilmselgelt kasutada pettuste, skeemide ja valeinfo jaoks, eriti institutsiooniliste isikute jäljendamiseks. " Uuringud AI levimuse üle helipettustes on piiratud. Näiteks vanavanemate petuskeemides võtab kurjategija ühendust kellegagi, väites, et on hädaolukord, mis puudutab pereliiget, näiteks röövimist või vigastust. Föderaalkaubanduskomisjon on hoiatanud avalikkust AI võimaliku kasutamise kohta nendes skeemides, kuigi sarnased skeemid eksisteerisid enne selle tehnoloogia ilmumist.