सालों से, मेटा की टीमों ने इंस्टाग्राम, व्हाट्सएप, और फेसबुक पर नए फीचर्स लॉन्च होने पर संभावित जोखिमों का आकलन किया, जैसे कि उपयोगकर्ताओं की गोपनीयता को खतरा, नाबालिगों को नुकसान, या भ्रामक या विषैले सामग्री के प्रसार को लेकर चिंताएं। ये गोपनीयता और सुरक्षा की समीक्षा मुख्य रूप से मानव मूल्यांकनकर्ताओं द्वारा की जाती थीं। हालांकि, NPR द्वारा प्राप्त आंतरिक दस्तावेज़ों से पता चलता है कि मेटा शीघ्र ही इन जोखिम मूल्यांकन का लगभग 90% स्वचालित करने की योजना बना रहा है। इसका अर्थ है कि महत्वपूर्ण एल्गोरिदम अद्यतन, नई सुरक्षा सुविधाएं, और सामग्री साझा करने में बदलाव ज्यादातर AI प्रणालियों द्वारा स्वीकृत किए जाएंगे, बिना उस सामान्य कर्मचारी जांच के जिसमें अनपेक्षित परिणाम या दुरुपयोग पर विचार किया जाता है। मेटा के भीतर, इस बदलाव को उत्पाद डेवलपर्स के लिए लाभकारी माना जा रहा है क्योंकि यह अपडेट और फीचर्स के रिलीज़ को तेज कर देगा। लेकिन वर्तमान और पूर्व कर्मचारी चिंता जता रहे हैं कि यह स्वचालन जोखिम का पर्याप्त मूल्यांकन न होने का कारण बन सकता है, जिससे वास्तविक दुनिया में नुकसान हो सकता है। एक पूर्व मेटा अधिकारी ने चिंता जताई कि तेजी से लॉन्च और कम कठोर समीक्षा से नकारात्मक परिणाम की संभावना बढ़ जाती है, क्योंकि पहले से अधिक समस्याएं पकड़ में नहीं आ पातीं। मेटा का कहना है कि उसने उपयोगकर्ता की गोपनीयता की रक्षा के लिए अरबों डॉलर का निवेश किया है और नई जोखिम समीक्षा प्रक्रियाओं का उद्देश्य निर्णय लेने को आसान बनाना है, साथ ही जटिल या नई समस्याओं के लिए मानवीय विशेषज्ञता बनाए रखना है। कंपनी का दावा है कि केवल “कम जोखिम” वाले निर्णय ऑटोमेशन के माध्यम से हैं। हालांकि, आंतरिक दस्तावेज़ संकेत देते हैं कि ऑटोमेशन संवेदनशील क्षेत्रों जैसे कि AI सुरक्षा, युवाओं का जोखिम, और प्लेटफ़ॉर्म की समग्र अखंडता जैसे क्षेत्रों तक विस्तारित हो सकता है, जिनमें हिंसक सामग्री और misinformation भी शामिल है। नई प्रक्रिया में उत्पाद टीमें एक प्रश्नावली पूरी करती हैं, जिसके बाद AI से “तत्काल निर्णय” प्राप्त होता है, जिसमें जोखिम और आवश्यक निवारक उपायों का विवरण होता है। पहले, जोखिम मूल्यांकनकर्ताओं को उत्पाद अपडेट को रोलआउट करने से पहले अनुमोदित करना पड़ता था; अब, इंजीनियर मुख्य रूप से स्वयं जोखिम का आकलन करते हैं, जब तक कि वे विशेष रूप से मानव समीक्षा का अनुरोध न करें। यह बदलाव इंजीनियरों और उत्पाद टीमों को ताकत देता है— जो अक्सर गोपनीयता विशेषज्ञ नहीं होते— ताकि वे निर्णय ले सकें, लेकिन इससे आकलनों की गुणवत्ता को लेकर चिंता भी बढ़ गई है। मेटा के पूर्व जिम्मेदार इनोवेशन निदेशक, ज्विका क्राइगर ने चेतावनी दी कि उत्पाद टीमें मुख्य रूप से तेज़ लॉन्च पर केंद्रित हैं, न कि सुरक्षा पर, और स्व-आकलन केवल आंकड़ों का चेकलिस्ट बन सकते हैं जो महत्वपूर्ण मुद्दों को नजरअंदाज कर सकते हैं। उन्होंने मानवीय दृष्टिकोण के बिना अधिक ऑटोमेशन के स्थान पर चिंता व्यक्त की, और कहा कि अत्यधिक AI reliance समीक्षा की गुणवत्ता को कम कर सकता है। मेटा ने इन आशंकाओं को कम करते हुए कहा कि वह परियोजनाओं के लिए AI निर्णयों का ऑडिट करता है बिना मानव समीक्षा के। इसके यूरोपीय संचालन, जो डिजिटल सर्विसेज अधिनियम जैसी सख्त नियमों के अनुसार कार्यरत हैं, मानव पर्यवेक्षण को बनाए रखेंगे, जो उनके आयरलैंड मुख्यालय से नियंत्रित होता है। कुछ बदलाव इससे मेल खाते हैं, जैसे कि मेटा का अपनी फैक्ट-चै킹 प्रोग्राम समाप्त करना और नफरत भरे भाषण की नीतियों को सख्त करना, जो कंपनी के व्यापक बदलाव का संकेत है— अधिक तेज़ अपडेट और कम सामग्री प्रतिबंध, जो प्लेटफ़ॉर्म के दुरुपयोग को रोकने के पारंपरिक सुरक्षा उपायों में ढील है। यह रणनीति CEO मार्क जुकरबर्ग की उन प्रयासों के अनुरूप है, जिन्होंने पूर्व राष्ट्रपति ट्रंप जैसे राजनीतिक नेताओं के साथ मेल खाने की कोशिश की, जिनके चुनाव को लेकर जुकरबर्ग ने इसे “सांस्कृतिक टाइपिंग पॉइंट” कहा था। ऑटोमेशन की यह पहल मेटा की उस रणनीति का हिस्सा भी है, जिसमें वह AI का प्रयोग कर संचालन को तेज करने की पुरानी योजना पर काम कर रहा है, ताकि टिक टोक, ओपनएआई और अन्य प्रतिस्पर्धियों से मुकाबला किया जा सके। मेटा ने हाल ही में कंटेंट मॉडरेशन में AI पर अधिक भरोसा किया है, ऐसी भाषा मॉडल का प्रयोग किया है जो कुछ नीतिगत मामलों में मानव से बेहतर प्रदर्शन कर सकते हैं। इससे मानव समीक्षक अधिक जटिल मामलों पर ध्यान केंद्रित कर सकते हैं। पूर्व फेसबुक पब्लिक पॉलिसी विशेषज्ञ कैटी हारबाथ का मानना है कि AI का उपयोग गति और दक्षता बढ़ाने के लिए अच्छा है, लेकिन वे मानवीय जाँच की आवश्यकता पर जोर देती हैं। दूसरी ओर, एक अन्य पूर्व मेटा कर्मचारी ने सवाल उठाया है कि जोखिम मूल्यांकन को तेज करने की सलाह है या नहीं, क्योंकि नए उत्पादों पर कड़ी जांच होती है, जिसमें अक्सर अनदेखी मुद्दों का पता चलता है। मेटा के प्रमुख गोपनीयता अधिकारी, मिचेल प्रोटी ने इन बदलावों का वर्णन करते हुए कहा कि इससे उत्पाद टीमें सशक्त बनेंगी और जोखिम प्रबंधन की प्रक्रिया सरल होगी। यह ऑटोमेशन र rollout अप्रैल और मई 2024 के बीच तेज़ी से किया गया है। हालांकि, कुछ अंदरूनी सूत्र इसे नाकारते हैं, और कहते हैं कि मानव को जोखिम मूल्यांकन से हटाना संभावित नुकसान पर मानवीय दृष्टिकोण को कमजोर करता है, और इस कदम को “असभ्य” कहा है, खासकर मेटा के मिशन को ध्यान में रखते हुए। सारांश में, मेटा मानव-नेतृत्व वाली जोखिम मूल्यांकन से अधिकतर AI-आधारित जोखिम आकलनों की ओर बढ़ रहा है, ताकि नवाचार में तेजी लाई जा सके, लेकिन आंतरिक सुरक्षा चिंताओं को बढ़ाते हुए संभावित हानियों और जटिल नैतिक और सुरक्षा मुद्दों को संभालने में AI की पर्याप्तता पर गंभीर सवाल उठ रहे हैं।