Kuluttaja-raporttien tutkimus paljasti, että useimmissa johtavissa tekoälyn äänen kloonausohjelmissa ei ole riittäviä turvatoimia, mikä mahdollistaa yksilöiden esittävän muita ilman suostumusta. Viime vuosina äänen kloonausteknologia on kehittynyt merkittävästi, mikä mahdollistaa monille palveluille vakuuttavan henkilökohtaisen puhetavan jäljittelyn vain muutamalla sekunnilla ääntä. Huomionarvoinen tapaus tapahtui viime vuoden demokraattisissa esivaaleissa, kun robokutsumia, joissa kuultiin vale-Joe Bidenia, tulvi äänestäjien puhelimiin, neuvoen heitä olematta äänestämättä. Tämän suunnitelman takana ollut poliittinen neuvonantaja sai 6 miljoonan dollarin sakot, ja liittovaltion viestintäkomissio on sittemmin kieltänyt tekoälyn tuottamat robokutsut. Äskettäin tehdyn kyselyn mukaan kuudesta pääteltyyn kansan saataville olevaan tekoälyn äänen kloonaustyökaluun viidessä niistä on helppo kiertää turvatoimia, mikä tekee äänten kloonaamisesta yksinkertaista ilman suostumusta. Deepfake-äänentunnistusohjelmat löytävät usein vaikeaksi erottaa oikeita ja synteettisiä ääniä. Generatiivinen tekoäly, joka imitoi ihmisten ominaisuuksia kuten ääntä, kirjoitustyyliä ja ulkonäköä, on nopeasti kehittyvä alue, jossa on vain vähän liittovaltion sääntelyä. Suurin osa alan turvallisuudesta ja eettisistä ohjeista on itse asetettuja. Presidentti Biden sisällytti joitakin turvatoimia vuodelle 2023 laadittuun tekoälyä koskevaan päätöslauselmaansa, mutta ne kumottiin presidentti Trumpin astuessa virkaansa. Äänen kloonausteknologia toimii tallentamalla näytteen henkilön äänestä ja tuottamalla synteettinen äänitiedosto tämän näytteen perusteella. Ilman asianmukaisia turvatoimia kuka tahansa voi luoda tilin, ladata ääntä alustalta kuten TikTok tai YouTube, ja saada palvelun jäljittelemään kyseisen henkilön ääntä. Neljä työkalua—ElevenLabs, Speechify, PlayHT ja Lovo—vaativat käyttäjiltä vain ruudun valitsemista, joka vahvistaa, että äänen kloonattavaksi tarkoittava henkilö on siihen antanut luvan. Resemble AI:lla on hieman tiukempi vaatimus, joka edellyttää reaaliaikaista äänitallennusta.

Kuluttaja-raportit onnistuivat kuitenkin kiertämään tämän toistamalla aikaisemmin tallennettua äänitiedostoa tietokoneelta. Ainoa palvelu, jolla on melko tehokas turvatoimi, on Descript, joka vaatii henkilöltä, joka haluaa kloonata äänen, tallentamaan erityisen suostumuslausunnon, mikä tekee huijauksen vaikeammaksi verrattuna muiden palvelujen käyttöön. Kaikki kuusi työkalua ovat saatavilla julkisesti niiden verkkosivuilla, ja ElevenLabs ja Resemble AI perivät $5 ja $1 luodakseen mukautetun äänen kloonin, kun taas muut ovat ilmaisia käyttää. Jotkut näistä yrityksistä tunnustavat tuotteidensa väärinkäytön mahdollisuuden ja väittävät toteuttaneensa vahvoja turvatoimia estääkseen deepfake-äänien luomisen tai äänen esittämisen helpottamisen. Resemble AI:n edustaja totesi NBC Newsille: "Tunnustamme tämän voimakkaan työkalun väärinkäytön mahdollisuuden ja olemme toteuttaneet vahvoja turvatoimia estääksemme deepfake-äänien luomisen ja suojataksemme äänen esittämistä vastaan. " Tekoälyn äänen kloonaamiselle on olemassa laillisia sovelluksia, kuten avustaminen vammaisten henkilöiden auttamisessa ja äänenkäännösten tuottaminen useilla kielillä. Kuitenkin väärinkäytön mahdollisuudet ovat merkittävät, sanoo Sarah Myers West, tekoälytutkimuslaitos AI Now Instituten yhteisjohtaja, joka tutkii tekoälyn politiikan vaikutuksia. Hän kertoi NBC Newsille: "Tätä voitaisiin ilmiselvästi käyttää petoksiin, huijauksiin ja disinformaatioon, erityisesti instituutioiden edustajien esittämiseen. " Tutkimus tekoälyn käytöstä ääniperustaisissa huijauksissa on rajallista. Esimerkiksi isovanhempahuijauksissa rikollinen ottaa yhteyttä väittäen, että perheenjäsenen, kuten kidnappauksen tai vamman, kanssa on hätätilanne. Liittovaltion kauppakomissio on varoittanut yleisöä tekoälyn mahdollisesta käytöstä näissä suunnitelmissa, vaikka tällaisia huijauksia on ollut jo ennen tämän teknologian syntyä.