المسألة التي تَحتَلُّ القلق الآن هي مُسألة مهمة. البيئة الافتراضية المُلوَّثة: ارتفاع موديلات الذكاء الاصطناعي المُنشأة وفْقًا لشركة 404 ميديا، يقوم الأفراد القائمون على مفهوم "المؤثرين الافتراضيين" بمزج الوجوه الزائفة مع أجساد العارضات الحقيقيات وعاملات الجنس بهدف تضليل الآخرين على وسائل التواصل الاجتماعي. هذا التطور المقلق يحدث في إطار صناعة موديلات الذكاء الاصطناعي المنتجة، التي حققت شهرة على منصات مثل انستغرام وتيك توك. تُعزز العديد من هذه الحسابات الاشتراكات المدفوعة من خلال روابط توجه إلى منافسي أونليفانز. بلا شك، هذه الاتجاهات تُعتبَر مربحة للغاية. ففي شهر نوفمبر، أعلنت وكالة إسبانية تُدعى "ذا كلوس" أن نموذجها الذكي البالغ من العمر 25 عامًا والذي يحمل اسم "آيتانا"، وهو شخصية ذكية افتراضية بشعر وردي من برشلونة، يحقق ما يصل إلى 11, 000 دولار من الإيرادات شهريًا. وراء الشاشة: مصيدة الفيديوهات المزيفة كما أوضحت Futurism في العام الماضي، فإن منشورات بعض هؤلاء المؤثرين الافتراضيين جذبت عشرات الآلاف من التعليقات وآلاف الإعجابات. يتسبب الأمر في مشكلة حقيقية عندما يبدأ المبدعون في استخدام تكنولوجيا الديبفيك لإلصاق وجوه الموديلات الذكية الاصطناعية على أجساد نساء حقيقيات. اكتشفت شركة 404 ميديا حسابًا يحمل اسم "أدريانا أفيلينو" والذي قام بتحميل محتوى افتراضي تمامًا ومقاطع فيديو لنساء حقيقيات بوجه الموديل الاصطناعي المتكامل بشكل سلس باستخدام تقنيات الديبفيك. المنهجية وراء هذه التكنولوجيا معروفة إلى حد ما. اكتشفت شركة 404 ميديا العديد من مقاطع الفيديو المفيدة التي تشرح عملية وضع وجه مؤثر ذكاء اصطناعي فوق لقطات حقيقية.

وعلاوة على ذلك، ارتفعت شعبية تطبيقات "swipe-face" ممّا يُمكن المستخدمين من إنشاء فيديوهات ديبفيك بسهولة باستخدام هواتفهم الذكية فقط. المعركة بين التسميات فور تلقي اتصال من شركة 404 ميديا وتنبيهها بوجود موديلات ذكاء اصطناعي ذات شهرة عالية تمتلك مئات الآلاف من المتابعين على انستغرام، قامت ميتا بحذف حساباتهم على الفور. أشارت ميتا إلى أنها تنوي في الشهر المقبل إدخال تسميات للمحتوى المنشأ بذكاء اصطناعي. ولكن هذه المهمة ستكون هائلة بالنظر إلى الفيضان الهائل للمؤثرين الافتراضيين المغمورين بالمنصات الخاصة بميتا. وعلاوة على ذلك، قد يثبت تمييز ما هو حقيقي وما هو ديبفيك، خاصة عند تورُّط نساء حقيقيات، تحدًا تقنيًا كبيرًا. للختام، هذا الاتجاه المثير للقلق يحرف ليس فقط الواقع، بل يسمح أيضًا للمبدعين بالربح مباشرة من جهود نُشطاء العالم الحقيقي. وبالتالي، يصبح من الضروري أكثر فأكثر أن تواصل منصات مثل انستغرام استكشاف سُبُلًا جديدة لمكافحة هذه القضية. لمزيد من المعلومات حول المؤثرين الافتراضيين، اقرأ عن الشخص الذي يستخدم الذكاء الاصطناعي للتظاهر بكونه مؤثر مغرِ.