ম্যানিপুলেটেড ভিডিও নির্বাচনের সময় এআই এবং ভুল তথ্য নিয়ে উদ্বেগ বাড়াচ্ছে ইউএস ভাইস প্রেসিডেন্ট কমলা হ্যারিসের কণ্ঠ অনুকরণ করা একটি ম্যানিপুলেটেড ভিডিও কৃত্রিম বুদ্ধিমত্তার (AI) নির্বাচনের সময় জনগণকে বিভ্রান্ত করার সম্ভাবনা নিয়ে উদ্বেগ সৃষ্টি করেছে। ভিডিওটি তখনই নজর কাড়ে যখন টেসলা এবং স্পেসএক্সের সিইও এলন মাস্ক এটি তার সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স এ শেয়ার করেন, তবে প্রথমে পরিষ্কার করেননি যে এটি একটি প্যারোডি। মাস্ক তারপর থেকে ভিডিওটি আবার শেয়ার করেছেন মূল ব্যবহারকারীর ক্যাপশন সহ, এটি একটি প্যারোডি হিসাবে স্বীকার করেছেন এবং হাইলাইট করেছেন যে প্যারোডি মার্কিন যুক্তরাষ্ট্রে আইনি। ভিডিওটি একটি বৈধ হ্যারিস প্রেসিডেন্সিয়াল ক্যাম্পেইন বিজ্ঞাপনের দৃশ্য ব্যবহার করে তবে তার ভয়েস-ওভারটি একজন সম্ভাব্য ডেমোক্রেটিক প্রেসিডেন্সিয়াল প্রার্থী হিসাবে প্রতিস্থাপন করে। এর প্রতিক্রিয়ায়, হ্যারিস ক্যাম্পেইনের মুখপাত্র মিয়া এহরেনবার্গ বলেছেন, "আমরা বিশ্বাস করি যে মার্কিন জনগণ সেই আসল স্বাধীনতা, সুযোগ এবং নিরাপত্তা চায় যা ভাইস প্রেসিডেন্ট হ্যারিস অফার করছেন; এলন মাস্ক এবং ডোনাল্ড ট্রাম্প দ্বারা ছড়ানো মিথ্যা ম্যানিপুলেটেড মিথ্যা নয়।" এই ব্যাপক প্রচারিত ভিডিওটি প্রদর্শন করে যে লাইফলাইক বৈশিষ্ট্য সহ AI-উত্পন্ন সামগ্রী কীভাবে নির্বাচনের সময় একটি রাজনৈতিক প্রসঙ্গে প্যারোডি বা প্রতারণার জন্য ব্যবহার করা যেতে পারে। কিছু অনলাইন ব্যবহারকারী প্রশ্ন করেছেন যে মাস্কের পোস্টটি এক্স-এর নীতিগুলি লঙ্ঘন করেছে কিনা, যা সিন্থেটিক, ম্যানিপুলেটেড বা আউট-অফ-কনটেক্সট মিডিয়া শেয়ার করতে নিষেধ করে যা মানুষকে বিভ্রান্ত করতে বা বিভ্রান্ত করতে পারে। নীতি মেম এবং ব্যঙ্গাত্মক অনুমতি দেয়, যতক্ষণ না তারা সামগ্রীর প্রামাণিকতা সম্পর্কে মানুষকে উল্লেখযোগ্যভাবে বিভ্রান্ত করে না। ভিডিওর মাস্কের আসল পোস্টে এর প্যারোডি প্রকৃতি নির্দিষ্ট করা হয়নি এবং শুধুমাত্র শব্দগুলি অন্তর্ভুক্ত করেছে "এটি আশ্চর্যজনক।" টেক বিলিয়নেয়র সম্প্রতি প্রাক্তন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প, রিপাবলিকান প্রার্থীকে সমর্থন করেছেন। যিনি ভিডিওটি পোস্ট করেছিলেন সেই YouTuber, Mr.

Reagan নামে পরিচিত, বা মাস্ক কেউই মন্তব্যের জন্য অনুরোধের জবাব দেননি। এআই-উত্পন্ন মিডিয়ার ক্ষমতা নিয়ে উদ্বেগ রয়েছে এআই-উত্পন্ন মিডিয়া বিশেষায়িত দুটি বিশেষজ্ঞ কল্পক বিজ্ঞাপনে অডিও বিশ্লেষণ করেছেন এবং নিশ্চিত করেছেন যে একটি উল্লেখযোগ্য অংশ এআই প্রযুক্তি ব্যবহার করে তৈরি করা হয়েছে। ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের ডিজিটাল ফরেনসিক বিশেষজ্ঞ হ্যানি ফরিদ বলেছেন যে ভিডিওটি জেনারেটিভ এআই এবং ডিপফেকের ক্ষমতাগুলিকে হাইলাইট করে। "AI-জনিত ভয়েস খুবই বিশ্বাসযোগ্য, " ফরীদ উল্লেখ করেছেন। "যদিও বেশিরভাগ মানুষ বিশ্বাস করবে না যে এটি ভিপি হ্যারিসের কণ্ঠস্বর, যখন তার কণ্ঠে শব্দগুলি বলা হয় তখন ভিডিওটি আরও প্রভাবশালী হয়ে ওঠে।" ফরিদ আরও জনসাধারণের কাছে ভয়েস-ক্লোনিং এবং অন্যান্য AI সরঞ্জাম সরবরাহকারী AI কোম্পানিগুলির দায়িত্বের উপর জোর দেন, তাদের পরিষেবাগুলি এমনভাবে ব্যবহার করা থেকে বিরত রাখতে যা ব্যক্তি বা গণতন্ত্রের ক্ষতি করতে পারে। তবে, পাবলিক সিটিজেন অ্যাডভোকেসি গ্রুপের সহ-সভাপতি রব ওয়াইজম্যান ফরিদের সাথে একমত নয়, তিনি পরামর্শ দিয়েছিলেন যে অনেক লোক ভিডিও দ্বারা প্রতারিত হবে। "আমি মনে করি না এটি স্পষ্টভাবে একটি কৌতুক, " ওয়াইজম্যান মন্তব্য করেছেন। "আমি নিশ্চিত যে এটি দেখার জন্য বেশিরভাগ লোক এটিকে কৌতুক বলে মনে করে না। মানটি নিখুঁত নয়, তবে এটি যথেষ্ট ভাল। এবং যেহেতু এটি কমলা হ্যারিসকে ঘিরে বিদ্যমান বর্ণনাকে শক্তিশালী করে, তাই বেশিরভাগ লোক বিশ্বাস করতে প্রবণ।" ওয়াইসম্যান, যার সংস্থা জেনারেটিভ এআই মোকাবেলার জন্য নিয়ন্ত্রক ব্যবস্থার আহ্বান জানিয়েছে, ভিডিওটিকে তারা যে উদ্বেগগুলি হাইলাইট করছে তার স্পষ্ট উদাহরণ হিসাবে বিবেচনা করে।