کئی سالوں سے، میٹا کی ٹیموں نے انسٹاگرام، واٹس ایپ اور فیس بک پر نئے فیچرز کے اجرا کے دوران ممکنہ خطرات کا جائزہ لیا، جیسے کہ صارف کی رازداری کو خطرہ، minors کو نقصان، یا گمراہ کن یا زہریلے مواد کے پھیلاؤ کا خدشہ۔ یہ پرائیویسی اور سالمیت کے جائزے بنیادی طور پر انسانی جائزہ کاروں کے ذریعے کیے جاتے تھے۔ تاہم، NPR کو موصول ہونے والے داخلی دستاویزات سے ظاہر ہوتا ہے کہ میٹا جلد ہی ان خطرات کے جائزوں کا تقریباً ۹۰% خودکار بنانے کا ارادہ رکھتا ہے۔ اس کا مطلب ہے کہ اہم الگورتھم اپڈیٹس، نئے حفاظتی فیچرز، اور مواد کے اشتراک میں تبدیلیاں زیادہ تر AI نظاموں سے منظور کی جائیں گی، بغیر معمول کے اسٹاف کی جانچ پڑتال کے، جو غیرمتوقع اثرات یا غلط استعمال کو مدنظر رکھتی ہے۔ میٹا کے اندر، اس تبدیلی کو مصنوعات کی ڈیولپمنٹ کے لیے مفید سمجھا جا رہا ہے کیونکہ یہ اپڈیٹس اور فیچرز کے اجرا کو تیز کرے گی۔ لیکن موجودہ اور سابقہ ملازمین کا خیال ہے کہ یہ خودکار نظام خطرات کا مناسب اندازہ لگانے میں ناکام ہو سکتا ہے، جو حقیقی دنیا میں نقصان کا سبب بن سکتا ہے۔ ایک سابقہ میٹا کے ایگزیکٹو نے تشویش ظاہر کی کہ کم سخت جائزے کے ساتھ تیز تر لانچز منفی نتائج کا خطرہ بڑھا سکتے ہیں، کیونکہ ممکنہ مسائل پہلے سے پکڑ میں نہیں آ سکیں گے۔ میٹا کا کہنا ہے کہ اس نے صارف کی رازداری کے تحفظ کے لیے اربوں ڈالر سرمایہ کاری کی ہے اور انہوں نے نئے خطرہ جائزے کے طریقہ کار کا مقصد فیصلہ سازی کو تیز کرنا اور انسانی مہارت کو برقرار رکھتے ہوئے پیچیدہ یا نادر مسائل کے لیے رکھا ہے۔ یہ صرف “کم خطرہ” والے فیصلوں کو خودکار کرنے کا دعویٰ کرتا ہے۔ لیکن داخلی دستاویزات سے پتا چلتا ہے کہ یہ خودکار نظام حساس شعبوں جیسے AI سیفٹی، نوجوانوں کے خطرات، اور پلیٹ فارم کی سالمیت جیسے امور پر بھی لاگو ہو سکتا ہے، جس میں تشدد انگیز مواد اور غلط معلومات شامل ہیں۔ نئے عمل میں، مصنوعات کی ٹیمیں ایک سوالنامہ مکمل کرتی ہیں تاکہ فوری فیصلہ حاصل کریں جو AI سے آتا ہے، جس میں خطرات اور ضروری اقدامات کی وضاحت ہوتی ہے۔ پہلے، خطرہ ماہرین کو مصنوعات کے اپڈیٹس کی منظوری سے قبل ان کا جائزہ لینا ہوتا تھا؛ اب، انجینئرز زیادہ تر خود اپنی خطرات کا خود جائزہ لیتے ہیں، جب تک کہ وہ خاص طور پر انسانی جائزہ کی درخواست نہ کریں۔ اس تبدیلی سے انجینئرز اور مصنوعات کی ٹیموں کو زیادہ اختیار ملتا ہے—جو اکثر رازداری کے ماہرین نہیں ہوتے—تاکہ وہ فیصلے کریں، جس سے جائزہ کے معیار کے حوالے سے تشویش پیدا ہوتی ہے۔ زویکا کریگر، میٹا کے سابقہ ذمہ داران برائے ذمہ دارانہ جدت طرازی، نے خبردار کیا کہ مصنوعات کی ٹیمیں تیز رفتار لانچز پر زیادہ ہوتی ہیں، نہ کہ حفاظت پر، اور کہ خود جائزہ لینے کا عمل اہم مسائل کو نظر انداز کر سکتا ہے۔ انہوں نے اس جگہ خودکار نظام کے امکانات کو تسلیم کیا، مگر خبردار کیا کہ AI پر زیادہ انحصار جائزہ کے معیار کو کم کر سکتا ہے۔ میٹا نے اس خوف کو کم Importance دی ہے، اور بتایا ہے کہ وہ AI فیصلوں کا آڈٹ کرتا ہے جن میں انسانی جائزہ شامل نہیں ہوتا۔ اس کے یورپی آپریشنز، جو کہ سخت قواعد و ضوابط جیسے ڈیجیٹل سروسز ایکٹ کے تحت چلتے ہیں، انسانی نگرانی کو جاری رکھیں گے، اور ان کے ہیڈکوارٹر آئی لینڈ میں ہیں۔ کچھ تبدیلیاں اس وقت آئی ہیں جب میٹا نے اپنی فیکٹ چیکنگ پروگرام کو ختم کر دیا ہے اور نفرت انگیز تقاریر کی پالیسیاں نرم کی ہیں، جو کہ کمپنی کے فیس بک، انسٹاگرام اور دیگر پلیٹ فارمز پر مواد پر پابندیوں کو کم کرنے کی طرف ایک اور قدم ہے۔ یہ ایک بڑے ادارے کی طرف سے تیز تر اپڈیٹس کے لیے اور پلیٹ فارم کے غلط استعمال کو روکنے کے لیے طویل مدتی پابندیوں میں نرمی کی طرف اشارہ کرتا ہے۔ یہ اقدام CEO مارک زکرberg کی کوششوں کا نتیجہ ہے کہ وہ اپنی کمپنی کو سیاسی شخصیات جیسے سابق صدر ٹرمپ کے ساتھ ہم آہنگ کریں، جس کے زکرberg نے اپنی انتخابی کامیابی کو “ثقافتی نقطہ آخر” قرار دیا تھا۔ خودکار نظام کی طرف یہ زور تیز تر AI کا استعمال بھی ہے، تاکہ TikTok، OpenAI، اور دیگر مقابل کمپنیوں کے درمیان مسابقت میں تیزی لائی جا سکے۔ حال ہی میں، میٹا نے زیادہ انحصار کیا ہے AI پر مواد کی نگرانی کے لیے، ایسے زبان کے ماڈلز استعمال کرتے ہوئے جو بعض پالیسی شعبوں میں انسان سے بہتر کارکردگی دکھاتے ہیں۔ اس سے انسان جائزہ کاروں کو زیادہ پیچیدہ کیسز پر توجہ دینے کا موقع ملتا ہے۔ کیتی ہرباتھ، سابقہ فیس بک پبلک پالیسی ماہر، AI کے ذریعے رفتار اور کارکردگی کو بہتر بنانے کی حمایت کرتی ہیں، مگر انسانی چیک کی ضرورت پر زور دیتی ہیں۔ دوسری طرف، ایک اور سابقہ میٹا ملازم نے سوال اٹھایا ہے کہ کیا خطرات کا جلد جائزہ لینا صحیح ہے، کیونکہ نئے مصنوعات پر زبردست سختی سے جانچا جاتا ہے، جو اکثر چھپے ہوئے مسائل کو ظاہر کرتا ہے۔ میشل پروتی، میٹا کے چیف پرائیویسی آفیسر برائے مصنوعات، نے ان تبدیلیوں کو مصنوعات کی ٹیموں کو بااختیار بنانے اور خطرہ انتظام کو آسان بنانے والی قرار دیا ہے۔ اس خودکار نظام کا اجرا اپریل اور مئی ۲۰۲۴ تک تیز ہوا ہے۔ مگر کچھ اندرونی ذرائع نے اس وضاحت کو تنقید کا نشانہ بنایا ہے، اور کہا ہے کہ انسانی عنصر کو خطرہ اندازہ لگانے سے ہٹانا انسانی نظریہ کے اہم پہلوؤں کو نظر انداز کرنا ہے، اور اسے “غیر ذمہ دارانہ” عمل قرار دیا ہے کیونکہ یہ میٹا کے مشن کے خلاف ہے۔ مجموعی طور پر، میٹا پلیٹ فارم کی تبدیلیوں کے لیے انسانی قیادت سے زیادہ AI پر انحصار کر رہا ہے، کہ وہ انوکھے انوکھے اقدامات کو تیز کرے، مگر اندرونی تشویشات میں اضافہ ہو رہا ہے کہ یہ معیار کو متاثر کرے گا، ممکنہ نقصان پہنچا سکتا ہے، اور پیچیدہ اخلاقی اور حفاظتی مسائل کے حل پر AI کی صلاحیت پر سوالات اٹھاتا ہے۔