Uchunguzi wa Consumer Reports ulibaini kwamba programu nyingi zinazoongoza za kunakili sauti za akili bandia zinakosa ulinzi wa kutosha, na kuwaruhusu watu kujifanya kuwa wengine bila idhini. Katika miaka ya hivi karibuni, teknolojia ya kunakili sauti ya AI imeendelea kwa kiasi kikubwa, ikiruhusu huduma nyingi kutoa nakala za mifumo ya sauti ya mtu kwa ufanisi kwa kutumia sekunde chache za sauti. Tukio maarufu lilitokea wakati wa uchaguzi wa kwanza wa Demokrasia mwaka jana ambapo simu za roboti zenye sauti ya bandia ya Joe Biden zilijaza simu za wapiga kura, zikiwaonya wasijitokeze kupiga kura. Mshauri wa kisiasa aliye nyuma ya mpango huu alipata faini ya dola milioni 6, na Tume ya Mawasiliano ya Shirikisho imezuia simu za roboti zinazozalishwa na AI. Utafiti wa hivi karibuni wa zana kubwa sita za kunakili sauti za AI zilizopo umekuta kwamba tano kati yao ziko katika hatari ya kupuuziliwa mbali hatua za usalama, na kufanya iwe rahisi kunakili sauti bila idhini. Programu za kugundua sauti za deepfake mara nyingi zinakumbana na ugumu wa kutofautisha kati ya sauti halisi na zile zisizo za kweli. AI ya kizazi, inayofanana na tabia za kibinadamu kama sauti, uandishi, na muonekano, ni eneo linalokua kwa kasi lenye udhibiti wa chini wa shirikisho. Miongozo ya usalama na maadili katika sekta hii kwa kiasi kikubwa ni ya kujitunga. Rais Biden alijumuisha hatua kadhaa za usalama katika agizo lake la kiutendaji la mwaka 2023 kuhusu AI, lakini hizo zilifutwa na Rais Trump aliposhika madaraka. Teknolojia ya kunakili sauti inafanya kazi kwa kuchukua sampuli ya sauti ya mtu na kuzalisha faili ya sauti ya bandia kulingana na sampuli hiyo. Bila ulinzi wa kutosha, mtu yeyote anaweza kuunda akaunti, kupakia sauti kutoka kwa jukwaa kama TikTok au YouTube, na kufanya huduma hiyo nakala sauti ya mtu huyo. Zana nne—ElevenLabs, Speechify, PlayHT, na Lovo—zinahitaji tu watumiaji kuthibitisha kwa kuchunguza kisanduku kwamba mtu ambaye sauti yake inanakiliwa ameidhinisha.

Resemble AI ina kiwango kidogo cha stricter kinachohitaji kurekodi sauti kwa wakati halisi. Hata hivyo, Consumer Reports ilifanikiwa kutahini hili kwa kucheza faili ya sauti iliyorekodiwa hapo awali kutoka kwenye kompyuta. Huduma pekee iliyo na ulinzi wa kutosha ni Descript, ambayo inahitaji mtu anayependa kunakili sauti kurekodi taarifa maalum ya idhini, ambayo inafanya iwe ngumu zaidi kudanganya ikilinganishwa na kutumia huduma nyingine. Zana zote sita zinaweza kupatikana hadharani kwenye tovuti zao, ambapo ElevenLabs na Resemble AI zinatoza dola 5 na 1, mtawalia, kwa ajili ya kutengeneza nakala maalum ya sauti, wakati zingine zinatumika bure. Baadhi ya kampuni hizi zinatambua uwezekano wa matumizi mabaya ya bidhaa zao na kudai kwamba zimeweka ulinzi madhubuti dhidi ya kuunda deepfakes au kuwezesha kujifanya sauti. Msemaji wa Resemble AI alisema kwa NBC News, “Tunatambua uwezekano wa matumizi mabaya ya chombo hiki chenye nguvu na tumetekeleza ulinzi thabiti ili kuzuia uundaji wa deepfakes na kulinda dhidi ya kujifanya kwa sauti. ” Kuna matumizi halali ya kunakili sauti ya AI, kama kusaidia watu wenye ulemavu na kuzalisha tafsiri za sauti katika lugha nyingi. Hata hivyo, uwezekano wa matumizi mabaya ni mkubwa, kulingana na Sarah Myers West, mkurugenzi mwandamizi wa Taasisi ya AI Now, think tank inayochunguza athari za sera za AI. Aliambia NBC News, "Hii inaweza kutumiwa kwa udanganyifu, ulaghai, na habari potofu, hasa kujifanya kwa watu wa kiutawala. " Utafiti wa kuenea kwa AI katika ulaghai wa sauti msingi ni mdogo. Katika ulaghai wa babu na bibi, kwa mfano, mhalifu anawasiliana na mtu akidai kuna dharura inayohusisha mwanafamilia, kama kukamatwa au kujeruhiwa. Tume ya Biashara ya Shirikisho imearifu umma kuhusu uwezekano wa matumizi ya AI katika mipango hii, ingawa ulaghai kama huu ulishawahi kuwepo kabla ya kuanza kwa teknolojia hii.