مواطنون عامون، وهي جهة مراقبة بارزة مكرسة لحماية المصالح العامة، طالبت شركة OpenAI بسحب تطبيق الفيديو المعتمد على الذكاء الاصطناعي، سورا 2، على الفور، مشيرة إلى المخاطر الكبيرة التي تفرضها تقنية التزييف العميق (ديبفايك). وأشارت المجموعة إلى التهديدات التي تواجه الديمقراطية والحقوق الشخصية وسلامة المجتمع في ظل تصاعد المخاوف من مقاطع الفيديو التي تُنتج عبر الذكاء الاصطناعي وترغم الواقع وتروّج للمعلومات المغلوطة على وسائل التواصل الاجتماعي. ووفقًا لمواطنون عامون، فإن إصدار OpenAI المستعجل لسورا 2 كان مدفوعًا بشكل كبير بالضغوط التنافسية في مجال الذكاء الاصطناعي، مما أدى إلى نقص التدابير الأمنية قبل الإطلاق العام. ونتيجة لذلك، أصبح بإمكان سورا 2 إنتاج ونشر مقاطع ديبفايك غير consensual على نطاق واسع، العديد منها يحتوي على محتوى مخل وجارح يستخدم للتحرش بالنساء أو تلفيق أحداث، مما يسبب أضرارًا نفسية وسمعية. التطبيق، الذي يسمح للمستخدمين بإنشاء مقاطع فيديو مدعومة بالذكاء الاصطناعي، حقق انتشارًا سريعًا على منصات مثل TikTok وInstagram. وتتنوع محتوياته بين تصويرات غريبة ومبالغ فيها للمشاهير إلى سيناريوهات واقعية ولكن مضللة قد تشوش تصور الجمهور. وشددت مواطنون عامون على أن قدرة التقنية على إنتاج لقطات مقنعة ولكنها كاذبة تشكل مخاطر جدية، خاصة عندما تنتشر تلك المقاطع بدون سياق أو تحقق. رغم أن OpenAI حاولت معالجة بعض المخاوف، مثل حظر تصوير شخصيات معينة كمارتن لوثر كينغ جونيور والتواصل مع مجموعات صناعية مثل SAG-AFTRA، إلا أن النقاد يرون أن هذه الجهود ردية وليست استباقية. وتؤكد مواطنون عامون أن OpenAI تكتفي بالرد على الغضب العام بدلاً من وضع ضوابط أخلاقية من البداية. ولم تكن هذه هي المرة الأولى التي يثير فيها OpenAI جدلاً حول أضرار الذكاء الاصطناعي.

فمنصتها ChatGPT واجهت دعاوى قضائية تتهمها بالتسبب في أضرار نفسية والإهمال وعدم وجود احتياطات كافية لمنع سوء الاستخدام. وتحذر مواطنون عامون من أن إصدار أدوات الذكاء الاصطناعي التوليدية دون إشراف دقيق يزيد من تعقيد هذه المشاكل، مهددًا الثقة في وسائل الإعلام الرقمية والمؤسسات الديمقراطية. وقدمت OpenAI ردودًا عامة محدودة بشأن سورا 2، حيث أعلنت أنها تعمل مع منشئي المحتوى وديزني ومالكي الحقوق لتحسين التدابير وتقليل مخاطر الإساءة. كما تعمل الشركة مع أصحاب المصلحة في القطاع الإبداعي في اليابان، مع قلقها من تأثير الذكاء الاصطناعي على حقوق الفنانين وحقوق الملكية الفكرية. وتشدد مواطنون عامون على أن إطلاق تطبيقات الذكاء الاصطناعي التوليدية مثل سورا 2 بسرعة وبدون تنظيم يهدد الخصوصية والنزاهة الواقعية واستقرار الديمقراطية. ويعكس طلبهم سحب التطبيق نداء أوسع لصناعة الذكاء الاصطناعي لإعطاء الأولوية للمصلحة العامة على حساب التنافس السوقي. ويدعون صناع السياسات والمطورين والمجتمع المدني للعمل معًا لوضع أطر أخلاقية شاملة تضمن تطوير وتطبيق مسؤول للذكاء الاصطناعي. ومع تقدم تقنية الذكاء الاصطناعي وتوغلها في المجتمع، تؤكد تحذيرات مواطنون عامون على التحديات والمسؤوليات الحاسمة المرتبطة باستغلال هذه الأدوات التحويلية. فالتوازن بين الابتكار وحماية المصالح العامة يظل ضروريًا مع توسع تعقيدات وتبعات المحتوى المولد عبر الذكاء الاصطناعي.