تنتشر بشكل سريع مقاطع الفيديو التي تنتج باستخدام تطبيق سورا من OpenAI على منصات مثل تيك توك وإنستغرام ريلز، مما يجعل المحتوى الاصطناعي المُولَّد بالذكاء الاصطناعي شبه لا مفر منه—وهو أمر يزداد إحباط العديد من المستخدمين تجاهه. ومع ذلك، يحذر خبراء السلامة الرقمية من تأثير أعمق وأقل وضوحًا: حيث أن OpenAI حولت بشكل فعلي تقنية العمليات المزيفة العميقة إلى موضة مرحة وسائدة، يُروَّج لها بحماس بواسطة خوارزميات التوصية. ومع تفاعل ملايين الأشخاص مع هذه المقاطع، تتغير تصورات الحقيقة والمعايير على الإنترنت. وصفت ديزي سودربيرغ-رافكين، وهي مديرة سابقة لثقة وأمان تيك توك، الأمر بأن العمليات المزيفة العميقة حصلت على "وكيل دعاية وعقد توزيع"، مما يعزز تقنية مثيرة للقلق أصلاً وتنتشر الآن على منصة جديدة وواسعة. وحذر أرون رودريك، رئيس الثقة والأمان في بلو سكاي، من أن المجتمع غير مستعد لجعل الحد الفاصل بين الواقع والتزييف يزداد غموضًا. وأبرز مخاطر مثل تزوير الأدلة الزائفة بسهولة لاستهداف مجموعات الهوية أو الأفراد، والاحتيالات الواسعة النطاق، مع افتقار معظم المستخدمين للمعرفة الإعلامية أو الأدوات اللازمة لتمييز الحقيقة من الخيال. قال ثلاثة موظفين سابقين في OpenAI لـ NPR إنهم لم يتفاجأوا بإطلاق سورا، معتبرين ذلك خطوة استراتيجية لعرض تقنية الفيديو الجديدة وسط ضغط المستثمرين، في مشهد يوحي بتشابه مع ظهور ChatGPT. وطبقت OpenAI عدة قواعد أمان، منها الرقابة، وحظر الاحتيال والعنف والأفلام الإباحية، ووضع علامات مائية، وسيطرة على استخدام التشابه، رغم أن المستخدمين غالبًا يجدون طرقًا للتحايل على هذه الإجراءات، مما يستدعي ردود فعل مستمرة من الشركة. وعبر أحد الموظفين السابقين المجهولين في OpenAI عن قلقه من أن تضعف قواعد السلامة مع زيادة المنافسة في مجال الفيديوهات المولدة بالذكاء الاصطناعي على وسائل التواصل الاجتماعي، مما قد يلحق ضررًا بالمجتمع. وتوقع سودربيرغ-رافكين ظهور تطبيقات مماثلة لسورا بدون تدابير أمنية، تشبه روبوت Grok الذي أطلقه إيلون ماسك، والتي من المحتمل أن تُستغل لإنتاج محتوى ضار ومزيف بشكل شديد المصداقية، مثل مواد الإساءة للأطفال أو الدعاية ذات الأهداف الحكومية. حاليًا، تُعتبر سورا التطبيق الأول على الآيفون، لكنها ما تزال متوفرة بدعوة فقط.

يلاحظ المستخدمون زيادة القيود: فمثلاً، أصبح من الصعب إنتاج محاكاة للمشاهير أو مقاطع مزيقة جدًا (مثل فيديوهات زائفة لجيفري إبستين أو بيانات اعتقال لسيان "دي دي" كيمبز)، مع أن المحتوى المثير للجدل مثل الأخبار عن الاعتقالات أو الزي العسكري النازي لا يزال يُنتج. أعلن الرئيس التنفيذي لـOpenAI، سام ألتمان، عن خطته لتحويل استخدام التشابه من "اختياري" إلى "اختياري بموافقة" وأخيرًا لمشاركة العائدات مع مالكي الحقوق، مما يدل على تطور سريع في النهج، مشابه لما حدث في بدايات ChatGPT. يثير تدفق المحتوى الذي يُنتَج بالذكاء الاصطناعي أسئلة حول تعب المستخدمين وما إذا كانت المنصات ستشدد أو تحظر هذا النوع من المحتوى. تعتقد سودربيرغ-رافكين أن الحظر غير مرجح، وأنه سيكون غير فعال على أي حال، نظرًا لتزايد صعوبة اكتشاف المحتوى المُنتَج بالذكاء الاصطناعي عبر النص والصور والفيديوهات. وحذرت من أن سياسة "لا للذكاء الاصطناعي" لا يمكنها منع تسلل الذكاء الاصطناعي إلى الإنترنت. وجادل أحد الموظفين السابقين في OpenAI بأن إطلاق تطبيق اجتماعي للعمليات المزيفة كان خطوة تجارية سليمة، رغم تدهور الواقع، مشيرًا إلى أن من المستحيل أن يتفرد أحد بالسوق. وفي الوقت نفسه، قدمت ميتا وجوجل أدوات فيديو ذكاء اصطناعي منافسة (Vibes وVeo 3)، لكن إصدار سورا سرع بشكل فعلي من انتشار محتوى الفيديو الشخصي المولَّد بالذكاء الاصطناعي. يرى خبراء الثقة والأمان أن سورا يمثل نقطة تحول تاريخية حيث تنتقل العمليات المزيفة من كونها من الظواهر النادرة إلى محتوى رقمي يومي، مما قد يؤدي إلى انسحاب المستخدمين من وسائل التواصل الاجتماعي أو انهيار الثقة في مصداقية الوسائط الإلكترونية. ومنذ زمن طويل، حذر خبراء التضليل من "عائد الكاذب"—أي أن وفرة العمليات المزيفة تسمح برفض المحتوى الحقيقي باعتباره زائفًا—لكن واقع هذا الظاهرة أصبح الآن أكثر إلحاحًا من أي وقت مضى.