ميتا ستقوم بأتمتة ما يصل إلى 90% من تقييمات المخاطر، مما يثير مخاوف بشأن الخصوصية والسلامة

لسنوات، كانت فرق مراجعي شركة ميتا تقيّم المخاطر المحتملة عند إطلاق ميزات جديدة على إنستغرام وواتساب وفيسبوك، حيث كانت تدرس مخاوف مثل تهديدات خصوصية المستخدمين، والإضرار بالقاصرين، أو انتشار محتوى مضلل أو سام. وكانت عمليات مراجعة الخصوصية والنزاهة تُجرى بشكل أساسي بواسطة مراجعين بشريين. ومع ذلك، تكشف وثائق داخلية حصلت عليها NPR أن شركة ميتا تخطط لأتمتة ما يصل إلى 90% من تقييمات المخاطر هذه في القريب العاجل. مما يعني أن التحديثات الحاسوبية المهمة، والميزات الجديدة للسلامة، والتغييرات في مشاركة المحتوى، سيتم الاعتماد فيها بشكل كبير على أنظمة الذكاء الاصطناعي دون التدقيق البشري المعتاد الذي يأخذ في الاعتبار التداعيات غير المتوقعة أو سوء الاستخدام. داخل ميتا، يُرى هذا التحول بأنه ميزة لمطوري المنتجات، لأنه يسرع من إصدار التحديثات والميزات. ومع ذلك، يشعر الموظفون الحاليون والسابقون بالقلق من أن يُؤدي هذا الأتمتة إلى تقييم غير كافٍ للمخاطر، مما قد يسبب أضرارًا على أرض الواقع. عبّر أحد التنفيذيين السابقين في ميتا عن قلقه من أن الإطلاقات الأسرع وقلة التدقيق تقلل من احتمالية وقوع نتائج سلبية، إذ قد يتم اكتشاف عدد أقل من المشاكل مسبقًا. وأوضحت ميتا أنها استثمرت مليارات الدولارات لحماية خصوصية المستخدمين، وأن التغييرات في مراجعة المخاطر تهدف إلى تسهيل عملية اتخاذ القرارات مع الحفاظ على الخبرة البشرية للمشاكل الجديدة أو المعقدة. كما تدعي أن القرارات ذات “المخاطر المنخفضة” ستكون فقط من ضمن ما يُعتمد عليه تلقائيًا. ومع ذلك، تشير الوثائق الداخلية إلى أن الأتمتة قد تتسع لتشمل مجالات حساسة مثل أمان الذكاء الاصطناعي، مخاطر الشباب، والنزاهة العامة للمنصة، بما في ذلك المحتوى العنيف والمعلومات المضللة. العملية الجديدة تتطلب من فرق المنتجات ملء استبيان للحصول على “قرار فوري” من الذكاء الاصطناعي، يُحدد المخاطر والإجراءات التصحيحية اللازمة. في الماضي، كان على مقدمي التقييمات الموافقة على تحديثات المنتجات قبل إطلاقها؛ الآن، يعتمد المهندسون بشكل كبير على تقييماتهم الذاتية للمخاطر، إلا إذا طلبوا مراجعة بشرية بشكل محدد.
هذا التحول يمنح المهندسين وفرق المنتجات—الذين غالبًا ليسوا خبراء في الخصوصية—سلطة أكبر في إصدار الأحكام، مما يثير مخاوف بشأن جودة التقييمات. حذر زفيكا كريغر، المدير السابق للابتكار المسؤول في ميتا، من أن تقييم فرق المنتجات يعتمد بشكل رئيسي على سرعة الإطلاق، وليس على السلامة، وأن التقييمات الذاتية قد تتحول إلى مجرد تثبيت مربعات، مفقودة لعدد كبير من المشكلات. وأقر بوجود مجال للتشغيل الآلي، ولكنه حذر من أن الاعتماد المفرط على الذكاء الاصطناعي قد يقلل من جودة عمليات المراجعة. قللت ميتا من تلك المخاوف، مشيرة إلى أنها تقوم بمراجعة قرارات الذكاء الاصطناعي للمشاريع بدون مراجعة بشرية. كما أن عملياتها في أوروبا، التي تخضع لقوانين صارمة مثل قانون الخدمات الرقمية، ستظل تحافظ على الرقابة البشرية من مقرها في أيرلندا. تزامن ذلك مع إنهاء ميتا لبرنامج التحقق من الحقائق وتخفيف سياساتها المتعلقة بخطاب الكراهية، في إشارة إلى تحول أوسع داخل الشركة نحو تحديثات أسرع وتقليل القيود على المحتوى—وهو تراجع عن الإجراءات السابقة التي وضعت لوقف سوء الاستخدام على المنصة. ويأتي هذا النهج عقب مساعي المدير التنفيذي مارك زوكربيرج لمحاكاة الشخصيات السياسية مثل الرئيس السابق ترامب، الذي وصف زوكربيرج انتخابه بأنه “نقطة تحوّل ثقافية”. كما يرتبط الدفع نحو التشغيل الآلي باستراتيجية طويلة الأمد لدى ميتا لاستخدام الذكاء الاصطناعي لتسريع العمليات مقابل المنافسة من تيك توك، وأوبن إيه آي، وغيرهم. فقد زادت الشركة مؤخرًا من اعتمادها على الذكاء الاصطناعي في فرض رقابة على المحتوى، مستخدمة نماذج لغوية تتفوق على البشر في مجالات سياسات معينة، مما يسمح للمراجعين البشريين بالتركيز على الحالات الأكثر تعقيدًا. الدكتورة كيتي هاربات، الخبيرة السابقة في السياسات العامة في فيسبوك، تؤيد استخدام الذكاء الاصطناعي لتعزيز السرعة والكفاءة، لكنها تؤكد على ضرورة وجود رقابة بشرية. أما موظف سابق آخر في ميتا، فكان أكثر تشكيكًا في جدوى تسريع تقييمات المخاطر، مشددًا على أن المنتجات الجديدة تتعرض لرقابة مشددة غالبًا ما تكشف عن مشكلات تم التغاضي عنها. وصف ميشيل بروتي، كبير مسؤولي الخصوصية للمنتجات في ميتا، التغييرات بأنها تُمكن فرق المنتجات وتطور إدارة المخاطر لتسهيل اتخاذ القرارات. تم تسريع عملية الأتمتة بين أبريل ومايو 2024، لكن بعض المطلعين ينتقدون هذا الوصف، مؤكدين أن إزالة العنصر البشري من تقييم المخاطر يقوض أهمية المنظور البشري الحاسم حول الأضرار المحتملة، ويصفون هذه الخطوة بأنها “غير مسؤولة” نظرًا لمهمة ميتا. وباختصار، فإن ميتا تتجه من تقييمات المخاطر بقيادة بشرية إلى اعتماد شبه كامل على الذكاء الاصطناعي، بهدف تسريع الابتكار، إلا أنها تثير قلقًا داخليًا كبيرًا بشأن تراجع التدقيق، والمخاطر المحتملة، ودرجة كفاءة الذكاء الاصطناعي في التعامل مع القضايا الأخلاقية والأمان المعقدة.
Brief news summary
تتحول شركة ميتا من تقييم المخاطر بقيادة البشر إلى تقييمات تعتمد بشكل رئيسي على الذكاء الاصطناعي على منصات إنستغرام وواتساب وفيسبوك، حيث يتم أتمتة ما يصل إلى 90٪ من عمليات مراجعة الخصوصية والنزاهة. يهدف هذا التغيير إلى تسريع إطلاق المنتجات من خلال السماح للمطورين بتقييم المخاطر بأنفسهم مع تقليل الحاجة إلى الرقابة البشرية. وتدعي ميتا أن الأتمتة تتعامل بشكل رئيسي مع الحالات ذات المخاطر المنخفضة، بينما يتدخل الخبراء لحل القضايا المعقدة. ومع ذلك، يحذر النقاد، بمن فيهم موظفون سابقون، من أن هذا التحول قد يغفل عن مخاطر جسيمة مثل خروقات الخصوصية، وسلامة الشباب، ونشر المعلومات المضللة. ويتماشى هذا التغيير مع إنهاء برنامج التحقق من الحقائق الخاص بميت Personal، وتخفيف قيود المحتوى، وهو ما يعكس تركيز الرئيس التنفيذي مارك زوكربيرغ على التطوير السريع وسط المنافسة مع تيك توك وOpenAI. وبينما يعزز الذكاء الاصطناعي الكفاءة، يؤكد الخبراء على الدور الحيوي للحكم البشري في منع حدوث أضرار غير محكومة. وتستشهد ميتا بالتدقيقات المستمرة وتنظيمات الاتحاد الأوروبي كوسائل حماية، لكن المطلعين يخشون أن يؤدي تقليل التدقيق البشري إلى عواقب ضارة وتقليل تقدير التأثيرات في العالم الحقيقي.
AI-powered Lead Generation in Social Media
and Search Engines
Let AI take control and automatically generate leads for you!

I'm your Content Manager, ready to handle your first test assignment
Learn how AI can help your business.
Let’s talk!

البلوكشين في التعليم: تأمين البيانات الأكاديمية
تتبنى المؤسسات التعليمية في جميع أنحاء العالم بشكل متزايد تكنولوجيا البلوك تشين من أجل تأمين والتحقق من الاعتمادات الأكاديمية، بهدف التصدي لجرائم الاحتيال في الشهادات وتعزيز الثقة في السجلات الأكاديمية.

تحصل توصيلات أمازون ووجستياتها على دفعة من الذكاء…
أعلنت أمازون عن توسع كبير في استخدامها للذكاء الاصطناعي لتعزيز عمليات التوصيل واللوجستيات، مما يمثل تقدمًا هامًا في دمج التكنولوجيا المتطورة داخل سلسلة التوريد الخاصة بها.

ماليزيا تُفعّل البنية التحتية الوطنية للبلوكشين
حققت ماليزيا إنجازًا هامًا في تحولها الرقمي من خلال الإطلاق الرسمي للبنية التحتية لبلوكتشين ماليزيا (MBI)، وهي منصة وطنية آمنة وقابلة للتوسع لتطوير ونشر تطبيقات البلوكتشين عبر القطاعات الرئيسية مثل التمويل، والرعاية الصحية، والخدمات اللوجستية.

وجدت شركة PwC أن اعتماد الذكاء الاصطناعي قد يؤدي …
كشفت دراسة حديثة لشبكة الخدمات المهنية العالمية برايس ووترهاوس كوبرز (PwC) أن تبني تكنولوجيا الذكاء الاصطناعي (AI) قد يكون له تأثير اقتصادي عميق.

توقعات سيتي لمشاريع العملات الرقمية المستقرة تترا…
أصدرت Citi، المؤسسة المالية العالمية الرائدة، توقعات تشير إلى نمو كبير في سوق العملات المستقرة خلال العقد القادم.

شركة لايت ماتر تكشف عن شريحة بصرية رائدة لتعزيز س…
شركة Lightmatter، وهي شركة ناشئة من وادي السيليكون، قدمت رقاقة ضوئية متطورة تهدف إلى تسريع عمليات الحوسبة الذكية الاصطناعية (AI) دون زيادة استهلاك الطاقة، مما يعزز الكفاءة الطاقية.

الرئيس التنفيذي لشركة بينبيت يناقش عملية الاختراق…
في مقابلة حديثة على بودكاست Wu Blockchain، قدم بن زو، الرئيس التنفيذي لشركة Bybit، تفصيلًا عن خرق أمني كبير حدث في 22 فبراير 2025، خلال عملية تحويل بين محفظة تبريد ومحفظة ساخنة في البورصة، بين الساعة 9:30 و10:00 بالتوقيت العالمي.