ایک صارف رپورٹ کی تحقیقات سے پتہ چلتا ہے کہ بیشتر معروف مصنوعی ذہانت کی آواز نقل کرنے کے پروگرام کافی حفاظتی تدابیر نہیں رکھتے، جس کی وجہ سے افراد دوسرے لوگوں کی بلا اجازت نقل اتار سکتے ہیں۔ حالیہ سالوں میں، آواز نقل کرنے والی مصنوعی ذہانت کی ٹیکنالوجی میں کافی ترقی ہوئی ہے، جس کی وجہ سے متعدد خدمات چند سیکنڈ کی آڈیو کے ذریعے کسی شخص کی گفتگو کے طریقوں کو یقین کے ساتھ نقل کرنے کی صلاحیت رکھتی ہیں۔ ایک اہم واقعہ گذشتہ سال کے ڈیموکریٹک پرائمری کے دوران پیش آیا جب جعل ساز جو بائیڈن کی آواز میں روبو کالز نے ووٹرز کے فونز پر بے شمار کالیں کیں، جن میں انہیں ووٹ نہ دینے کا مشورہ دیا گیا۔ اس منصوبے کے پیچھے موجود سیاسی مشیر کو 6 ملین ڈالر کا جرمانہ کیا گیا، اور فیڈرل کمیونیکیشن کمیشن نے اس کے بعد ای آئی سے تیار کردہ روبو کالز پر پابندی عائد کر دی۔ ایک حالیہ سروے میں چھ بڑے عوامی دستیاب AI آواز نقل کرنے والے ٹولز کی شناخت کی گئی، جن میں سے پانچ نے حفاظتی اقدامات کو آسانی سے نظر انداز کیا، جس کی وجہ سے بغیر اجازت آوازیں نقل کرنا آسان ہوگیا۔ ڈیپ فیک آڈیو کی شناخت کرنے والا سافٹ ویئر اکثر حقیقی اور مصنوعی آوازوں کے درمیان فرق کرنا مشکل سمجھتا ہے۔ جنریٹیو AI، جو انسانی خصوصیات جیسے آواز، تحریر اور شکل کی نقل کرتا ہے، ایک تیزی سے ترقی پذیر میدان ہے جس پر وفاقی ریگولیشن کی سطح کم ہے۔ صنعت کے اندر زیادہ تر حفاظتی اور اخلاقی ہدایات خود نافذ کردہ ہیں۔ صدر بائیڈن نے 2023 میں AI پر اپنے ایگزیکٹو آرڈر میں کچھ حفاظتی اقدامات شامل کیے تھے، لیکن وہ صدر ٹرمپ کے عہدہ سنبھالنے پر منسوخ کر دیے گئے۔ آواز نقل کرنے کی ٹیکنالوجی کسی شخص کی آواز کا آڈیو نمونہ حاصل کرکے اور اس نمونے کی بنیاد پر مصنوعی آڈیو فائل تیار کرکے کام کرتی ہے۔ مناسب حفاظتی تدابیر کے بغیر، کوئی بھی ایک اکاؤنٹ بنا سکتا ہے، TikTok یا YouTube جیسے پلیٹ فارم سے آڈیو اپ لوڈ کر سکتا ہے، اور اس خدمت کو اس شخص کی آواز نقل کرنے کے لیے کہہ سکتا ہے۔ چار ٹولز—ElevenLabs، Speechify، PlayHT، اور Lovo—صرف استعمال کنندگان سے ایک باکس کو چیک کرنے کی ضرورت ہے جس میں اس شخص کی آواز کی نقل کرنے کی اجازت دی گئی ہو۔ Resemble AI میں ایک تھوڑا سخت تقاضا ہے، جو حقیقی وقت کی آڈیو ریکارڈنگ کی ضرورت ہوتی ہے۔ تاہم، صارف رپورٹیں اس کو ایک پہلے سے ریکارڈ کی گئی آڈیو فائل کو کمپیوٹر سے چلانے کے ذریعے نظرانداز کرنے میں کامیاب ہوگئیں۔ صرف ایک خدمت جس میں کافی مؤثر حفاظتی تدبیر ہے وہ Descript ہے، جو یہ لازمی کرتی ہے کہ جو شخص آواز نقل کرنا چاہتا ہے وہ ایک مخصوص رضامندی کا بیان ریکارڈ کرے، جس کی وجہ سے اس کو دوسرے خدمات کے مقابلے میں جعلی بنانا مشکل ہوتا ہے۔ تمام چھ ٹولز کے ویب سائٹس پر عوامی طور پر رسائی حاصل ہے، جن میں ElevenLabs اور Resemble AI نے بالترتیب $5 اور $1 چارج کیا ہے تاکہ ایک حسب ضرورت آواز نقل کریں، جبکہ دوسرے استعمال کرنے کے لیے مفت ہیں۔ ان کمپنیوں میں سے کچھ اپنے مصنوعات کے غلط استعمال کے امکانات کو تسلیم کرتی ہیں اور یہ دعویٰ کرتی ہیں کہ انہوں نے ڈیپ فیک یا آواز کی نقل اتارنے کی سہولت کے خلاف طاقتور حفاظتی تدابیر نافذ کی ہیں۔ Resemble AI کے ایک ترجمان نے NBC نیوز کو بتایا، "ہم اس طاقتور ٹول کے غلط استعمال کے امکانات کو تسلیم کرتے ہیں اور ڈیپ فیک بنانے اور آواز کی نقل سے روکنے کے لیے مضبوط حفاظتی تدابیر نافذ کی ہیں۔" AI آواز نقل کرنے کی جائز ایپلی کیشنز ہیں، جیسے معذور افراد کی مدد کرنا اور مختلف زبانوں میں آڈیو ترجمے تیار کرنا۔ تاہم، سارہ مائرز ویسٹ، AI Now Institute کی ہم ایگزیکٹو ڈائریکٹر، کے مطابق غلط استعمال کے امکانات نمایاں ہیں۔ انہوں نے NBC نیوز کو بتایا، "یہ واضح طور پر دھوکہ دہی، اسکیموں اور غلط معلومات کے لیے استعمال ہو سکتا ہے، خاص طور پر اعلیٰ ادارہ جاتی شخصیات کی نقل اتارنے کے لیے۔" آڈیو پر مبنی اسکیموں میں AI کی موجودگی پر تحقیق محدود ہے۔ دادا دادی کے فراڈ میں، مثال کے طور پر، ایک مجرم کسی سے رابطہ کرتا ہے اور دعویٰ کرتا ہے کہ کسی فیملی ممبر، جیسے کہ اغوا یا چوٹ، کے بارے میں ہنگامی صورت حال ہے۔ فیڈرل ٹریڈ کمیشن نے عوام کو ان اسکیموں میں AI کے ممکنہ استعمال کے بارے میں آگاہ کیا ہے، اگرچہ ایسی اسکیمیں اس ٹیکنالوجی کی آمد سے پہلے بھی موجود تھیں۔