اخیراً، موجی از ویدئوهای ساخته شده توسط هوش مصنوعی که صحنه‌های دراماتیک و خشونت‌آمیز مربوط به درگیری ایران و اسرائیل را جعل می‌کنند، به سرعت در پلتفرم‌های بزرگ شبکه‌های اجتماعی مانند X (قبلاً توییتر) و TikTok منتشر شده است. این کلیپ‌های ساختگی شامل زنی است که از زندان سوزان تهران گزارش می‌دهد، تصاویر تقلبی از آسمان‌خراش‌های تل‌آویو که به ویرانه تبدیل شده‌اند، و ویدیویی جعلی از سقوط یک هواپیمای نظامی اسرائیلی است. این محتوا که میلیون‌ها بار مشاهده شده، نشان‌دهنده پیشرفت و گسترش روزافزون اطلاعات نادرست مبتنی بر هوش مصنوعی در زمان بحران‌های ژئوپولیتیکی است. این موج از ویدئوهای عمیق‌فیک نمونه‌ای از روند رو به رشد رسانه‌های مصنوعی است که برای دستکاری در برداشت عمومی و ترویج روایت‌های نادرست در میان رویدادهای حساس به کار می‌روند. کارشناسان هشدار می‌دهند که چنین محتوایی سرخط حقیقت و دروغ را مخدوش می‌کند و تنش‌ها را افزایش می‌دهد و گفت‌و‌گوی آگاهانه را تضعیف می‌کند. پژوهشگران مرکز علوم رسانه‌ای دانشگاه کلومبز، که روند انتشار ویروسی این ویدئوها را مورد بررسی قرار دادند، اعلام کردند شبکه‌های هماهنگ از حساب‌ها در X—که از گروه‌های مخالف ایرانی حمایت می‌کنند— این تصاویر تولید شده توسط هوش مصنوعی را برای کاهش اعتماد به دولت ایران و تشدید اختلافات اجتماعی ترویج می‌کنند. پراکندگی سریع این ویدئوها چالش‌های بزرگی برای پلتفرم‌های شبکه‌های اجتماعی و اکوسیستم اطلاعاتی کلی به وجود آورده است. روش‌های سنتی تایید محتوا در برابر پیشرفت‌های فناوری تولید محتوا با هوش مصنوعی که قادر است ویدئوهای فوق‌واقع‌گرایانه اما کاملاً جعلی بسازد، ناتوان است.

این تحول فناوری نگرانی‌های جدی درباره سلاحی شدن اطلاعات نادرست برای دستکاری روایت‌ها، تأثیرگذاری بر سیاست‌ها و تشدید درگیری‌ها را برانگیخته است. شرکت‌های شبکه‌های اجتماعی فشار فزاینده‌ای برای پیاده‌سازی تدابیر قوی در مقابل سوءاستفاده از رسانه‌های مصنوعی احساس می‌کنند. آن‌ها در حال بررسی الگوریتم‌های پیشرفته تشخیص، همکاری‌های صحت‌سنجی و کمپین‌های آموزشی برای کاربران هستند؛ اما حجم و پیچیدگی محتوای تولید شده توسط هوش مصنوعی، نظارت و کنترل را دشوار ساخته و کارشناسان هشدار می‌دهند که هیچ راه‌حل واحدی نمی‌تواند با ماهیت در حال تحول فناوری عمیق‌فیک مقابله کند. فراتر از تأثیر فوری بر درگیری ایران و اسرائیل، این موج ویدئوهای ساخته شده توسط هوش مصنوعی چالش‌های گسترده‌تری را برای اعتماد به اطلاعات دیجیتال نشان می‌دهد. با پیشرفت هوش مصنوعی، تمایز بین محتوای اصیل و جعلی هر روز مشکل‌تر می‌شود، که این امر ثبات اجتماعی را تهدید می‌کند، دیپلماسی را پیچیده می‌سازد و آشوب‌های ناشی از اطلاعات نادرست در سراسر جهان را تشدید می‌کند. تحلیل‌گران بر اهمیت ارتقای سواد رسانه‌ای عمومی برای شناسایی و سوال کردن درباره محتوای مشکوک تأکید دارند. شفافیت بیشتر پلتفرم‌ها، همراه با تلاش‌های فعالانه دولت‌ها و مدنی، برای مقابله با تبلیغات عمیق‌فیک حیاتی است. در جمع‌بندی، سیلاب اخیر از ویدئوهای ساخته شده توسط هوش مصنوعی که صحنه‌هایی از درگیری ایران و اسرائیل را دروغین نشان می‌دهد، خطرات فزاینده رسانه‌های مصنوعی در عصر اطلاعات امروز را برجسته می‌کند. همان‌طور که این تصاویر ساختگی در فضای آنلاین منتشر می‌شود، ذینفعان در مواجهه با چالش‌های فزاینده برای حفظ صحت و درستی اخبار و گفت‌و‌گوی عمومی قرار دارند، و ضرورت استراتژی‌های چندجانبه برای شناسایی، افشا و مقابله با تبلیغات نادرست مبتنی بر عمیق‌فیک قبل از تهدید بیشتر صلح و ثبات جهانی را تأکید می‌نمایند.