لسنوات، كانت فرق مراجعي شركة ميتا تقيّم المخاطر المحتملة عند إطلاق ميزات جديدة على إنستغرام وواتساب وفيسبوك، حيث كانت تدرس مخاوف مثل تهديدات خصوصية المستخدمين، والإضرار بالقاصرين، أو انتشار محتوى مضلل أو سام. وكانت عمليات مراجعة الخصوصية والنزاهة تُجرى بشكل أساسي بواسطة مراجعين بشريين. ومع ذلك، تكشف وثائق داخلية حصلت عليها NPR أن شركة ميتا تخطط لأتمتة ما يصل إلى 90% من تقييمات المخاطر هذه في القريب العاجل. مما يعني أن التحديثات الحاسوبية المهمة، والميزات الجديدة للسلامة، والتغييرات في مشاركة المحتوى، سيتم الاعتماد فيها بشكل كبير على أنظمة الذكاء الاصطناعي دون التدقيق البشري المعتاد الذي يأخذ في الاعتبار التداعيات غير المتوقعة أو سوء الاستخدام. داخل ميتا، يُرى هذا التحول بأنه ميزة لمطوري المنتجات، لأنه يسرع من إصدار التحديثات والميزات. ومع ذلك، يشعر الموظفون الحاليون والسابقون بالقلق من أن يُؤدي هذا الأتمتة إلى تقييم غير كافٍ للمخاطر، مما قد يسبب أضرارًا على أرض الواقع. عبّر أحد التنفيذيين السابقين في ميتا عن قلقه من أن الإطلاقات الأسرع وقلة التدقيق تقلل من احتمالية وقوع نتائج سلبية، إذ قد يتم اكتشاف عدد أقل من المشاكل مسبقًا. وأوضحت ميتا أنها استثمرت مليارات الدولارات لحماية خصوصية المستخدمين، وأن التغييرات في مراجعة المخاطر تهدف إلى تسهيل عملية اتخاذ القرارات مع الحفاظ على الخبرة البشرية للمشاكل الجديدة أو المعقدة. كما تدعي أن القرارات ذات “المخاطر المنخفضة” ستكون فقط من ضمن ما يُعتمد عليه تلقائيًا. ومع ذلك، تشير الوثائق الداخلية إلى أن الأتمتة قد تتسع لتشمل مجالات حساسة مثل أمان الذكاء الاصطناعي، مخاطر الشباب، والنزاهة العامة للمنصة، بما في ذلك المحتوى العنيف والمعلومات المضللة. العملية الجديدة تتطلب من فرق المنتجات ملء استبيان للحصول على “قرار فوري” من الذكاء الاصطناعي، يُحدد المخاطر والإجراءات التصحيحية اللازمة. في الماضي، كان على مقدمي التقييمات الموافقة على تحديثات المنتجات قبل إطلاقها؛ الآن، يعتمد المهندسون بشكل كبير على تقييماتهم الذاتية للمخاطر، إلا إذا طلبوا مراجعة بشرية بشكل محدد.

هذا التحول يمنح المهندسين وفرق المنتجات—الذين غالبًا ليسوا خبراء في الخصوصية—سلطة أكبر في إصدار الأحكام، مما يثير مخاوف بشأن جودة التقييمات. حذر زفيكا كريغر، المدير السابق للابتكار المسؤول في ميتا، من أن تقييم فرق المنتجات يعتمد بشكل رئيسي على سرعة الإطلاق، وليس على السلامة، وأن التقييمات الذاتية قد تتحول إلى مجرد تثبيت مربعات، مفقودة لعدد كبير من المشكلات. وأقر بوجود مجال للتشغيل الآلي، ولكنه حذر من أن الاعتماد المفرط على الذكاء الاصطناعي قد يقلل من جودة عمليات المراجعة. قللت ميتا من تلك المخاوف، مشيرة إلى أنها تقوم بمراجعة قرارات الذكاء الاصطناعي للمشاريع بدون مراجعة بشرية. كما أن عملياتها في أوروبا، التي تخضع لقوانين صارمة مثل قانون الخدمات الرقمية، ستظل تحافظ على الرقابة البشرية من مقرها في أيرلندا. تزامن ذلك مع إنهاء ميتا لبرنامج التحقق من الحقائق وتخفيف سياساتها المتعلقة بخطاب الكراهية، في إشارة إلى تحول أوسع داخل الشركة نحو تحديثات أسرع وتقليل القيود على المحتوى—وهو تراجع عن الإجراءات السابقة التي وضعت لوقف سوء الاستخدام على المنصة. ويأتي هذا النهج عقب مساعي المدير التنفيذي مارك زوكربيرج لمحاكاة الشخصيات السياسية مثل الرئيس السابق ترامب، الذي وصف زوكربيرج انتخابه بأنه “نقطة تحوّل ثقافية”. كما يرتبط الدفع نحو التشغيل الآلي باستراتيجية طويلة الأمد لدى ميتا لاستخدام الذكاء الاصطناعي لتسريع العمليات مقابل المنافسة من تيك توك، وأوبن إيه آي، وغيرهم. فقد زادت الشركة مؤخرًا من اعتمادها على الذكاء الاصطناعي في فرض رقابة على المحتوى، مستخدمة نماذج لغوية تتفوق على البشر في مجالات سياسات معينة، مما يسمح للمراجعين البشريين بالتركيز على الحالات الأكثر تعقيدًا. الدكتورة كيتي هاربات، الخبيرة السابقة في السياسات العامة في فيسبوك، تؤيد استخدام الذكاء الاصطناعي لتعزيز السرعة والكفاءة، لكنها تؤكد على ضرورة وجود رقابة بشرية. أما موظف سابق آخر في ميتا، فكان أكثر تشكيكًا في جدوى تسريع تقييمات المخاطر، مشددًا على أن المنتجات الجديدة تتعرض لرقابة مشددة غالبًا ما تكشف عن مشكلات تم التغاضي عنها. وصف ميشيل بروتي، كبير مسؤولي الخصوصية للمنتجات في ميتا، التغييرات بأنها تُمكن فرق المنتجات وتطور إدارة المخاطر لتسهيل اتخاذ القرارات. تم تسريع عملية الأتمتة بين أبريل ومايو 2024، لكن بعض المطلعين ينتقدون هذا الوصف، مؤكدين أن إزالة العنصر البشري من تقييم المخاطر يقوض أهمية المنظور البشري الحاسم حول الأضرار المحتملة، ويصفون هذه الخطوة بأنها “غير مسؤولة” نظرًا لمهمة ميتا. وباختصار، فإن ميتا تتجه من تقييمات المخاطر بقيادة بشرية إلى اعتماد شبه كامل على الذكاء الاصطناعي، بهدف تسريع الابتكار، إلا أنها تثير قلقًا داخليًا كبيرًا بشأن تراجع التدقيق، والمخاطر المحتملة، ودرجة كفاءة الذكاء الاصطناعي في التعامل مع القضايا الأخلاقية والأمان المعقدة.