ఒక వినియోగదారుల నివేదిక చేయూత ద్వారా నిర్వహించిన ఊహించలేదు. ఆధునిక ద్రవ్యం యొక్క ఫేక్ నికరాలను, ప్రజలు అవగాహన చేయకుండా ఇతరులను పోలికలు చేయడం అనుమతించే మార్గం లేదు. సామస్యలో పాత తలుపులు మారుతున్నాయి, ఎదురుకాలంలో ప్రకాశనం మరియు పర్యవేక్షణలో చాలా సేవలను వినియోగిస్తున్నాయి, కేవలం కొన్ని sec న టీకా పెట్టిన తారోపాలకు తిరుగుతుంది. గత సంవత్సరంలో, డెమొక్రాటిక్ ప్రాథమిక ఎన్నికల సమయంలో ఒక కసరత్తులో, ఎన్నికల కవరింగ్ పలుకుబడి వలయాలను కేటాయించిన జో బిడెన్ యొక్క ఫేక్ ఉజ్వల రూపం వారికి డిజైలైన స్పష్టతలు కలిపింది, వారు ఓటు వేయవద్దని సలహా ఇస్తున్నాయి. ఈ ప్రణాళిక మధ్యలో ఉన్న రాజకీయ సలహా దాతకు $6 మిలియన్ల జరిమానా విధించబడింది, మరియు ఫెడరల్ కమ్యూనికేషన్స్ కమిషన్ ఆ తర్వాత మరియుఉన్న AI జన్యంగా తయారు చేసిన రోబోకాల్‌ను నిషేధించింది. ఆనాటి పరిశీలనలో, ఆరు ప్రధానంగా ప్రజలకు అందుబాటులో ఉన్న AI వాయిస్ క్లోనింగ్ టూల్స్‌ను గుర్తించడం జరిగింది. అందులో ఐదు ఉచితమైన అంగీకార వ్యవస్థలు చుట్టినట్టుగా కనిపించాయి, ఇది తక్షణ వేరు మార్గాన్ని శీఘ్రంగా క్లోన్ చేయడం చేస్తుంది. డీప్ ఫేక్ ఆడియో పరికరావేతనం అసలు మరియు సింథటిక్ పానిచ్ఝల మధ్య వ్యత్యాసం గుర్తించమనే వ్యాపార యంత్రాల సవాలుగా ఉంది. గనరేటివ్ AI, ఇది మానవ లక్షణాలను పోలి ఉంటుంది, కంటే వాయిస్, వ్రాయటం మరియు రూపాన్ని పోలి ఉంటుంది, ఇది తక్కువ ఫెడరల్ నియమనలు ఉన్న విభాగం. సాధారణ సురక్షణ మరియు నైతిక మార్గదర్శకాలు ఈ పరిశ్రమలో ఆత్మ-స్థాపించబడినవి. అధ్యక్షుడు బిడెన్ 2023లో AI పై తన అనుబంధ చార్టర్‌లో కొంత భద్రతా చర్యలను చేర్చాడు, కానీ వాటిని అధ్యక్షుడు ట్రంప్ అధికారంలోకి వస్తుంటే రద్దు చేసారు. వాయిస్ క్లోనింగ్ సాంకేతికత ఒక వ్యక్తి యొక్క ఓటు ఉదాహరణను పట్టుకుని, ఆ ఉదాహరణను బేస్ చేసి ఒక సింథటిక్ ఆడియో ఫైల్ ను ఉత్పత్తి చేస్తుంది.

సరైన భద్రతా నియమాలు లేకుండా, ఎవరు కూడా ఒక ఖాతాను సృష్టించుకోవచ్చు, టిక్‌టాక్ లేదా యూట్యూబ్ వంటి ప్లాట్‌ఫార్మ్ నుండి ఆడియోను అప్లోడ్ చేయవచ్చు, మరియు ఆ సేవ తన వ్యక్తి యొక్క క్లోన్ చేస్తున్న వాయిస్ ని పునరుత్పత్తి చేస్తుంది. నాలుగు పరికరాలను - ఎలెవెన్‌లాబ్స్, స్పీచ్‌ఫై, ప్లే‌హెచ్‌టి, మరియు లోవో - వాడుకరులు క్లోన్ చేస్తున్న వ్యక్తి అనుమతి ఇచ్చిన సమర్థతను నిర్ధారించేందుకు ఒక పెట్టెను సమర్థించడం అవసరం. రీసంబ్లె AI కి ఒక కంచుకు మరొక కఠినమైన సమర్థత ఉంది, ఇది నేరుగా ఆడియో రికార్డింగ్ అవసరం. అయితే, వినియోగదారులు విపరీతమైన ఆడియోను ఆణువు ఆడిస్తూ బ్లాకింగ్ ద్వారా యస్ జరగడం సాధించాయి. అరిఖ్యమైన భద్రతా సామాను సర్వీసు డెస్క్రిప్ట్, క్లోన్ చేయాలనే వ్యక్తి నిర్ధారించడానికి ప్రత్యేక అనుమతిను రికార్డు చేయాల్సి ఉంటుంది, తద్వారా ఇతర సేవలను ఉపయోగించేందుకు పోలినప్పుడు దాటించడం కష్టం. అన్ని ఆరు పరికరాలను ప్రజలకు అందుబాటులో ఉన్న వాటి వెబ్‌సైట్‌లపై పొందవచ్చు, ఎలెవెన్‌లాబ్స్ మరియు రీసంబ్లె AI కస్టమ్ వాయిస్ క్లోన్‌ను రూపొందించేందుకు వరుసగా $5 మరియు $1 ఛార్జ్ చేస్తాయ, మిగతా టూల్స్ ఉచితం. ఈ కంపెనీలు తమ ఉత్పత్తుల దుర్వినియోగం అవకాశాలను గుర్తించి, డీప్‌ఫేక్‌లు లేదా వాయిస్ అనుకరణను సులభంగా చూపించడానికి కఠినమైన భద్రతా నియమాలను అమలు చేసినట్లు చెబుతున్నారు. ఒక రీసంబ్లె AI ప్రతినిధి NBC న్యూస్‌కు, "ఈ శక్తివంతమైన సాధనాన్ని దుర్వినియోగం చేయవరుకు అందించడంలో మేము ప్రవేశించాము, మరియు డీప్‌ఫేక్ రూపొందించడాన్ని నిరోధించే అనువైన భద్రతా చర్యలు అమలు చేశాము" అన్నారు. AI వాయిస్ క్లోనింగ్‌కి చట్టబద్ధమైన వినియోగాలు ఉన్నాయి, ఇది అంగవైకల్యములైన వ్యక్తులను సహాయించడంలో మరియు అనేక భాషలలో ఆడియో అనువాదాలను ఉత్పత్తి చేయటానికి సహాయపడుతుంది. అయితే, దుర్వినియోగం అవకాశం కార్పొరేట్ దృక్పథంలోని సారాహ్ మేయర్స్ వెస్ట్, AI నౌ ఇందోస్ట్రీకి కో-ఎగ్జిక్యూటివ్ డైరెక్టర్, ప్రకారం Significant. ఆమె NBC న్యూస్ కు చెప్పింది, "ఇది డబ్బు కూడా కట్టడం, మోసాల కోసం, మరియు తప్పుడు సమాచారం కలిగి ఉంచడం చేదువుగా ఉపయోగించబడటానికి ఉపయోగించబడగలదు, ముఖ్యంగా సంస్థల ప్రాతినిధ్యాన్ని అనుకరిస్తుంది. " శ్రావ్య ఆధారిత మోసాలలో AI యొక్క ప్రాథమిక పరీక్ష చాలా తక్కువ. తాతగారుల మోసాలలో, ఉదాహరణకు, ఒక నేరస్థుడు ఒక వ్యక్తిని సంప్రదించి సంస్థ సమయంలో అలర్ట్ అవుతుంది, ఉదాహరణకు కిడ్నాపింగ్ లేదా గాయ మంట. ఫెడరల్ ట్రేడ్ కమిషన్ ఈ ప్రణాళికలలో AI యొక్క సాధ్యమైన వినియోగంపై ప్రజలనంటూ అలర్ట్ చేసింది, అయితే ఈ మరియు ఇతర మోసాలు ఇప్పటికే ఈ సాంకేతికత వచ్చాకపై ఉన్నవి.