Selama bertahun-tahun, tim peninjau Meta menilai potensi risiko setiap kali fitur baru diluncurkan di Instagram, WhatsApp, dan Facebook, dengan mengevaluasi kekhawatiran seperti ancaman terhadap privasi pengguna, bahaya bagi anak di bawah umur, atau penyebaran konten menyesatkan atau beracun. Tinjauan tersebut terutama dilakukan oleh evaluator manusia. Namun, dokumen internal yang diperoleh NPR mengungkapkan bahwa Meta berencana untuk mengotomatisasi hingga 90% dari penilaian risiko ini segera. Artinya, pembaruan algoritma kritis, fitur keamanan baru, dan perubahan dalam berbagi konten akan sebagian besar disetujui oleh sistem AI tanpa pengawasan staf biasa yang mempertimbangkan dampak tak terduga atau penyalahgunaan. Di dalam Meta, perubahan ini dipandang menguntungkan oleh pengembang produk karena mempercepat peluncuran pembaruan dan fitur. Namun, karyawan saat ini dan mantan karyawan khawatir bahwa otomatisasi ini bisa menyebabkan penilaian risiko yang tidak memadai, berpotensi menimbulkan bahaya di dunia nyata. Seorang mantan eksekutif Meta menyatakan kekhawatiran bahwa peluncuran yang lebih cepat dengan tinjauan yang kurang ketat meningkatkan kemungkinan hasil negatif, karena lebih sedikit masalah yang dapat dideteksi sebelum peluncuran. Meta menyatakan bahwa mereka telah menginvestasikan miliaran dolar untuk melindungi privasi pengguna dan bahwa perubahan dalam tinjauan risiko ini bertujuan menyederhanakan pengambilan keputusan sambil tetap mempertahankan keahlian manusia untuk masalah yang baru atau kompleks. Mereka mengklaim hanya keputusan “risiko rendah” yang akan diautomatiskan. Namun, dokumen internal menunjukkan bahwa otomatisasi mungkin juga merambah ke bidang sensitif seperti keamanan AI, risiko bagi remaja, dan integritas platform secara umum, termasuk konten kekerasan dan informasi yang menyesatkan. Proses baru ini melibatkan tim produk yang mengisi kuisioner untuk mendapatkan “keputusan instan” dari AI, yang menguraikan risiko dan langkah mitigasi yang diperlukan. Sebelumnya, penilai risiko harus menyetujui pembaruan produk sebelum peluncuran; sekarang, insinyur sebagian besar melakukan penilaian sendiri terhadap risiko kecuali mereka secara spesifik meminta tinjauan manusia. Perubahan ini memberi kekuatan kepada insinyur dan tim produk—yang sering kali bukan ahli privasi—untuk membuat penilaian, menimbulkan kekhawatiran tentang kualitas penilaian tersebut.

Zvika Krieger, mantan direktur inovasi bertanggung jawab di Meta, memperingatkan bahwa tim produk lebih fokus pada peluncuran cepat, bukan keamanan, dan bahwa penilaian mandiri berisiko menjadi sekadar checked box yang melewatkan masalah penting. Dia mengakui ada ruang untuk otomatisasi tetapi memperingatkan bahwa ketergantungan berlebihan pada AI bisa merusak kualitas peninjauan. Meta meredam kekhawatiran tersebut, dengan menyatakan bahwa mereka melakukan audit terhadap keputusan AI untuk proyek tertentu tanpa tinjauan manusia. Operasi di Eropa, yang diatur oleh regulasi ketat seperti Digital Services Act, akan tetap mempertahankan pengawasan manusia dari kantor pusat di Irlandia. Beberapa perubahan ini bertepatan dengan penghentian program pemeriksaan fakta dan pelonggaran kebijakan ujaran kebencian, yang menandai pergeseran perusahaan secara umum menuju pembaruan yang lebih cepat dan kurang pembatasan konten—sebuah pelonggaran terhadap pembatasan lama yang bertujuan mencegah penyalahgunaan platform. Pendekatan ini mengikuti upaya CEO Mark Zuckerberg untuk menyelaraskan diri dengan tokoh politik seperti mantan Presiden Trump, yang kemenangan pemilihan surat kabar Zuckerberg gambarkan sebagai “titik balik budaya. ” Dorongan untuk otomatisasi ini juga berkaitan dengan strategi jangka panjang Meta untuk memanfaatkan AI dalam mempercepat operasional di tengah persaingan dari TikTok, OpenAI, dan lainnya. Baru-baru ini, Meta meningkatkan penggunaan AI untuk menegakkan moderation konten, menggunakan model bahasa yang lebih unggul dari manusia dalam beberapa bidang kebijakan. Ini memungkinkan reviewer manusia untuk lebih fokus pada kasus yang lebih kompleks. Katie Harbath, mantan pakar kebijakan publik Facebook, mendukung penggunaan AI untuk meningkatkan kecepatan dan efisiensi tetapi menekankan perlunya pemeriksaan manusia. Sebaliknya, mantan karyawan Meta lain mempertanyakan apakah mempercepat penilaian risiko merupakan langkah yang bijaksana, menyoroti bahwa produk baru sering mendapatkan pengawasan ketat yang sering kali menemukan masalah yang terabaikan. Michel Protti, kepala petugas privasi produk Meta, menggambarkan perubahan ini sebagai pemberdayaan tim produk dan evolusi manajemen risiko untuk menyederhanakan pengambilan keputusan. Peluncuran otomatisasi ini dipercepat melalui April dan Mei 2024. Namun, beberapa orang dalam mengkritik gambaran ini dan menegaskan bahwa menghilangkan manusia dari penilaian risiko merusak perspektif manusia yang kritis terhadap potensi bahaya, dan menyebut langkah ini sebagai “tidak bertanggung jawab” mengingat misi Meta. Secara umum, Meta sedang beralih dari penilaian risiko yang dipimpin manusia ke assessment yang sebagian besar didasarkan pada AI, dengan tujuan mempercepat inovasi tetapi menimbulkan kekhawatiran serius secara internal tentang pengurangan pengawasan, potensi bahaya, dan kecukupan AI dalam menangani masalah etika dan keselamatan yang kompleks.