Tüketici Raporları'nın bir araştırması, önde gelen yapay zeka ses klonlama programlarının çoğunun yeterli önlemlerden yoksun olduğunu ve bu durumun, bireylerin başkalarını rızasız bir şekilde taklit etmelerine olanak tanıdığını ortaya çıkardı. Son yıllarda, ses klonlama yapay zeka teknolojisi önemli ölçüde gelişti ve birçok hizmet, sadece birkaç saniyelik ses kaydı ile bir kişinin konuşma kalıplarını ikna edici bir şekilde yeniden oluşturabilme kapasitesine sahip oldu. Geçtiğimiz yılki Demokratik ön seçimlerde, sahte Joe Biden'ı içeren robokolların seçmenlerin telefonlarını doldurduğu dikkat çekici bir olay yaşandı; bu robokallar, seçmenlere oy vermemelerini tavsiye ediyordu. Bu planın arkasındaki siyasi danışman, 6 milyon dolarlık bir ceza aldı ve Federal İletişim Komisyonu, o zamandan beri yapay zeka ile üretilen robokalları yasakladı. Altı büyük, halka açık yapay zeka ses klonlama aracı ile yapılan son bir ankette, bunlardan beşinin güvenlik önlemlerini kolayca aşabileceği tespit edildi; bu da sesleri izinsiz klonlamayı basit hale getiriyor. Derin sahte ses tespit yazılımları genellikle gerçek ve yapay sesleri ayırt etmede zorluk yaşıyor. İnsan özelliklerini, ses, yazım ve görünüm gibi, taklit eden üreteç yapay zeka, az bir federal düzenlemeyle hızla gelişen bir alan. Sektördeki çoğu güvenlik ve etik kılavuzu kendi kendine uygulanıyor. Başkan Biden, 2023 tarihli yapay zeka konulu yürütme emrinde bazı güvenlik önlemleri dahil etti, ancak bunlar Başkan Trump tarafından göreve geldiğinde iptal edildi. Ses klonlama teknolojisi, bir kişinin sesine ait bir ses örneğini kaydederek ve bu örneğe dayanarak sentetik bir ses dosyası üreterek çalışır. Uygun önlemler yoksa, herkes bir hesap oluşturabilir, TikTok veya YouTube gibi bir platformdan ses yükleyebilir ve hizmetin o kişinin sesini klonlamasını sağlayabilir. Dört araç—ElevenLabs, Speechify, PlayHT ve Lovo—kullanıcılardan, klonlanacak olan kişinin bu işlemi yetkilendirdiğini onaylayan bir kutucuğu işaretlemelerini gerektirir. Resemble AI, biraz daha katı bir gereklilikle gerçek zamanlı ses kaydı yapılmasını talep eder.

Ancak, Tüketici Raporları, daha önce kaydedilmiş bir ses dosyasını bir bilgisayardan oynatarak bunu aşmayı başardı. Oldukça etkili bir güvenlik önlemi olan tek hizmet Descript'tir; bu hizmet, sesi klonlamak isteyen kişinin belirli bir rıza ifadesi kaydetmesini zorunlu kılarak, diğer hizmetlere kıyasla sahteciliği daha zor hale getirir. Tüm altı araç, web siteleri üzerinden kamuya açık olarak erişilebilir; ElevenLabs ve Resemble AI, özel bir ses klonu oluşturmak için sırasıyla 5 ve 1 dolar ücret talep ederken, diğerleri ücretsizdir. Bu şirketlerden bazıları, ürünlerinin kötüye kullanılma potansiyelini kabul ediyor ve derin sahte belgeler oluşturmayı veya ses taklitlerini kolaylaştırmayı engelleyen güçlü önlemler aldıklarını iddia ediyor. Resemble AI sözcüsü NBC News'e, “Bu güçlü aracın kötüye kullanılma potansiyelinin farkındayız ve derin sahte belgelerin oluşturulmasını engellemek ve ses taklitlerine karşı koruma sağlamak için sağlam önlemler aldık. ” dedi. Yapay zeka ses klonlamanın, engelli bireylere yardım etmek veya birden fazla dilde sesli çeviriler üretmek gibi meşru uygulamaları mevcuttur. Ancak, yapay zeka politikalarını inceleyen AI Now Institute'un eş-yönetici direktörü Sarah Myers West'e göre, kötüye kullanım potansiyeli oldukça fazladır. NBC News'e, “Bu obviously dolandırıcılık, sahtekarlık ve yanlış bilgi için kullanılabilir, özellikle de kurumsal figürleri taklit etmekte. ” dedi. Ses tabanlı dolandırıcılıklarda yapay zekanın yaygınlığına dair araştırmalar sınırlıdır. Örneğin, büyükanne dolandırıcılığında, bir suçlu, bir aile üyesiyle ilgili bir acil durum olduğunu iddia ederek birini arar; bu, bir kaçırma veya yaralanma durumu olabilir. Federal Ticaret Komisyonu, bu tür şemalarda yapay zekanın olası kullanımına dair kamuoyunu uyardı; ancak bu tür dolandırıcılıklar, bu teknolojinin ortaya çıkmasından önce de var olmuştur.