Хэрэглэгчийн тайлангийн судалгаагаар ихэнх тэргүүлэгч хиймэл оюун ухааны дууны клонирлах програмууд хангалттай хамгаалалтгүй бөгөөд энэ нь хүмүүсийг бусдыг зөвшөөрөлгүйгээр дуурайх боломжийг олгож байна. Сүүлийн жилүүдэд дууны клонирлын ИИ технологи мэдэгдэхүйц хөгжиж, олон үйлчилгээ хүмүүсийн ярианы хэв маягийг зөвхөн хэдэн секундын дууны бичлэгээр итгэмээрээр хуулбарлах боломжийг олгож байна. Өнгөрсөн жилийн Ардчилсан намын анхдугаар сонгуулийн үеэр худал Жо Байдены дуудлага залгасан утсанд хөвсгөр мэдээлэлтэй утасны дуудлага ихээр орж ирсэн тохиолдол гарсан. Энэ схемийн ард байсан улс төрийн зөвлөх $6 саяын торгууль авсан бөгөөд Холбооны харилцаа холбооны комисс ИИ-с үүсгэсэн робокаллуудыг хориглосон. Саяхан зургаан томоохон нийтийн өндөр үйлчилгээнд зориулсан ИИ дууны клонирлын хэрэгслийн судалгаагаар тав нь аюулгүй байдлын арга хэмжээг амархан давж гарч, зөвшөөрөлгүйгээр дууг хуулбарлах боломжийг олгож байна. Гүн хуурамчаар дууг илрүүлэх програм нь бодит болон хиймэл дууг ялгаж танихад бэрхшээлтэй гэдгийг ихэвчлэн олж мэддэг. Хүмүүсийн хүслийг дуурайдаг Generative AI нь хурдан хөгжиж буй салбар бөгөөд холбооны засаглалын зохицуулалтууд тун хязгаарлагдмал. Аж үйлдвэр дэх аюулгүй байдал, ёс зүйн зааврууд ихэвчлэн өөрсдийгөө хянадаг. Ерөнхийлөгч Байден 2023 оны ИИ-д зориулсан захирамжид зарим аюулгүй байдлын арга хэмжээг оруулсан боловч эдгээрийг Ерөнхийлөгч Трамп тангараг өргөхөд хүчингүй болгосон. Дууны клонирлын технологи нь хүний дууны аудио дээжийг барьж аван уг дээжээр нийлэг дууны файл үйлдвэрлэдэг.

Хууль тогтоох хамгаалалтгүйгээр, хэн ч данс нээж, TikTok эсвэл YouTube зэрэг платформоос дууны аудиог оруулж, үйлчилгээ нь тухайн хүний дууг хуулбарлах боломжтой. Дөрвөн хэрэгсэл—ElevenLabs, Speechify, PlayHT, ба Lovo—ихэвчлэн хэрэглэгчид хуурамч дууг дуурайх зохих дүрмийг хэвлэж өгснөөр худалдаж авах шаардлагатай. Resemble AI нь бодит цагийн дуу бичлэг хийх шаардлага тавьдаг ч, хэрэглэгчид комьпютерээс өмнө бичигдсэн дууны файлыг тоглуулах замаар энэ дүрмийг давж гарч чаджээ. Гаднаас хамгийн үр дүнтэй хамгаалалттай үйлчилгээ нь Descript бөгөөд уг үйлчилгээ нь дууг клонирлох хүсэлтэй хүн тодорхой зөвшөөрлийн илэрхийллийг бичих шаардлагатай болгодог бөгөөд үүний зэрэгцээ бусад үйлчилгээтэй харьцуулахад хуурамчаар засахад хэцүү байдаг. Зургаан хэрэгсэл нь өөрсдийн вэбсайтаар олдож, ElevenLabs болон Resemble AI тус бүр $5 болон $1-г зарж, өөрийн дууны клонийг бүтээхэд ашиглагддаг, харин бусад нь үнэгүй. Эдгээр компанийн зарим нь бүтээгдэхүүнээ буруу ашиглах боломжтой гэдгийг хүлээн зөвшөөрч, гүн хуурамч бүтээлд болон дууны дуурайлтаас урьдчилан сэргийлэх хүчтэй хамгаалалтыг хэрэгжүүлсэн гэдгээ мэдэгдсэн. Resemble AI-ийн төлөөлөгч NBC News-д “Бид энэ хүчтэй хэрэгслийг буруу ашиглах боломжийг хүлээн зөвшөөрч, гүн хуурамч бүтээлснээс сэргийлэхийн тулд баталгаатай хамгаалалт хийсэн” гэжээ. ИИ дууны клонирлын тоглогдол нь хөгжлийн бэрхшээлтэй хүмүүсийг дэмжих, олон хэлээр аудио орчуулга хийх зэрэг хууль ёсны зорилготой байдаг. Гэвч, Сарра Мэйерс Уэст, AI Now Institute-ийн хамтран гүйцэтгэх захирлын хэлснээр, буруу ашиглах боломж нь их хэмжээгээр байна. Тэр NBC News-д “Энэ нь obviously хуурамч, залилан, мэдээллийн гажуудалд, ялангуяа институцийн түлхүүр хүмүүсийг дуурайхад ашиглагдаж болно” гэж хэлжээ. Аудио суурьтай залилангийн явцад ИИ-ийн тархалт судлах нь хязгаарлагдмал. Жишээлбэл, өвөө эмээ залилангийн схемд гэмт хэрэгтэн хэн нэгэнтэй холбогдож, гэр бүлийн гишүүний гачигдалтай холбоотой яаралтай байдал илрүүлэх гэж хуурамч мэдэгдэл гаргадаг. Холбооны худалдааны комисс энэ схемд ИИ-ийг ашиглах боломжтой талаар олон нийтэд анхааруулсан боловч ийм залилангийн схем нь энэ технологийн үүсэхээс өмнө байсан.