Selama bertahun-tahun, pasukan penilai Meta menilai potensi risiko apabila ciri-ciri baharu dilancarkan di Instagram, WhatsApp, dan Facebook, dengan menilai kebimbangan seperti ancaman terhadap privasi pengguna, bahaya kepada kanak-kanak, atau penyebaran kandungan yang menyesatkan atau toksik. Semakan terhadap privasi dan integriti ini kebiasaannya dijalankan oleh penilai manusia. Namun, dokumen dalaman yang diperoleh oleh NPR mendedahkan bahawa Meta merancang untuk mengautomatikkan sehingga 90% penilaian risiko ini tidak lama lagi. Ini bermakna kemas kini algoritma penting, ciri keselamatan baharu, dan perubahan dalam perkongsian kandungan akan kebanyakannya diluluskan oleh sistem kecerdasan buatan tanpa pemerhatian staf seperti biasa yang mengambil kira akibat yang tidak dijangka atau penyalahgunaan. Dalam Meta, perubahan ini dilihat sebagai menguntungkan bagi pembangun produk dengan mempercepatkan pelepasan kemas kini dan ciri-ciri baharu. Namun, pekerja lama dan baharu bimbang bahawa automasi ini boleh menyebabkan penilaian risiko yang tidak memadai, yang berpotensi menyebabkan bahaya di dunia sebenar. Seorang bekas eksekutif Meta meluahkan kebimbangan bahawa pelancaran yang lebih cepat dengan kajian yang kurang ketat meningkatkan kemungkinan hasil negatif, kerana lebih sedikit masalah dapat dikenal pasti terlebih dahulu. Meta menyatakan bahawa mereka telah melaburkan berbilion-bilion untuk melindungi privasi pengguna dan bahawa perubahan dalam semakan risiko ini bertujuan untuk melancarkan proses keputusan sambil mengekalkan kepakaran manusia untuk isu-isu baharu atau kompleks. Mereka mendakwa hanya keputusan "risiko rendah" sahaja akan diautomasikan. Walau bagaimanapun, dokumen dalaman menunjukkan bahawa automasi mungkin meliputi bidang sensitif seperti keselamatan AI, risiko terhadap belia, dan integriti platform secara keseluruhan, termasuk kandungan keganasan dan maklumat palsu. Proses baharu ini melibatkan pasukan produk mengisi soal selidik untuk menerima "keputusan segera" daripada AI, yang menerangkan risiko dan langkah-langkah mitigasi yang perlu diambil. Sebelum ini, penilai risiko perlu meluluskan kemas kini produk sebelum dilancarkan; kini, jurutera kebanyakannya menilai sendiri risiko kecuali mereka secara khusus meminta semakan manusia. Perubahan ini memberi kuasa kepada jurutera dan pasukan produk—yang selalunya bukan pakar privasi—untuk membuat penilaian, yang menimbulkan kebimbangan mengenai kualiti penilaian tersebut.

Zvika Krieger, bekas pengarah inovasi bertanggungjawab Meta, memberi amaran bahawa pasukan produk dinilai berdasarkan pelancaran yang pantas, bukan keselamatan, dan penilaian sendiri berisiko menjadi sekadar menandakan kot yang terlepas isu penting. Beliau mengakui bahawa terdapat ruang untuk automasi, tetapi memberi amaran bahawa terlalu bergantung kepada AI boleh merosakkan kualiti semakan. Meta merendahkan kebimbangan tersebut, dengan menyatakan mereka mengaudit keputusan AI untuk projek tanpa semakan manusia. Operasi di Eropah, yang dikawal oleh peraturan ketat seperti Digital Services Act, akan kekal diaudit oleh manusia dari pejabat pusat di Ireland. Beberapa perubahan ini bersamaan dengan penamatan program semak fakta Meta dan pelonggaran dasar kebencian, menandakan perubahan lebih luas dalam syarikat ke arah kemas kini yang lebih pantas dan kurang sekatan kandungan—pengurangan kawalan yang telah lama dipertahankan untuk mencegah penyalahgunaan platform. Pendekatan ini mengikuti usaha CEO Mark Zuckerberg untuk menyelaraskan diri dengan tokoh politik seperti bekas Presiden Trump, yang pengundinya Zuckerberg gambarkan sebagai “titik tolak budaya. ” Dorongan untuk automasi ini juga berkait rapat dengan strategi jangka panjang Meta untuk menggunakan AI bagi mempercepat operasi di tengah persaingan dari TikTok, OpenAI, dan lain-lain. Meta baru-baru ini meningkatkan penggunaan AI untuk menguatkuasakan moderasi kandungan, menggunakan model bahasa yang mengatasi manusia dalam bidang dasar tertentu. Ini membolehkan penilai manusia memberi tumpuan kepada kes yang lebih kompleks. Katie Harbath, bekas pakar dasar awam Facebook, menyokong penggunaan AI untuk mempercepatkan dan meningkatkan kecekapan tetapi menekankan keperluan semakan manusia. Sebaliknya, seorang lagi bekas pekerja Meta mempersoalkan sama ada mempercepatkan penilaian risiko adalah bijak, kerana produk baharu sering menghadapi pemeriksaan teliti yang sering menyingkirkan isu-isu penting. Michel Protti, ketua pegawai privasi Meta untuk produk, menggambarkan perubahan ini sebagai memberi kuasa kepada pasukan produk dan memodenkan pengurusan risiko untuk mempermudah proses membuat keputusan. Pelaksanaan automasi ini dipercepatkan sepanjang April dan Mei 2024. Walau bagaimanapun, beberapa orang dalam industri mengkritik gambaran ini, menekankan bahawa mengeluarkan manusia dari penilaian risiko boleh merosakkan perspektif manusia yang kritikal mengenai bahaya yang mungkin berlaku, dan menganggap langkah ini sebagai “tidak bertanggungjawab” memandangkan misi Meta. Secara ringkas, Meta sedang beralih daripada penilaian risiko yang dikendalikan manusia kepada penilaian yang didominasi oleh AI dalam perubahan platform, bertujuan mempercepat inovasi tetapi menimbulkan kebimbangan serius secara dalaman mengenai pengurangan pemerhatian yang teliti, risiko yang mungkin berlaku, dan kebolehan AI dalam menangani isu-isu etika dan keselamatan yang kompleks.