Sa loob ng maraming taon, sinusuri ng mga koponan ng Meta ang mga posibleng panganib tuwing maglulunsad ng mga bagong tampok sa Instagram, WhatsApp, at Facebook, sinisiyasat ang mga alalahanin tulad ng mga pagbabanta sa privacy ng gumagamit, pinsala sa mga menor de edad, o ang pagpakalat ng mapanlinlang o nakakasamang nilalaman. Ang mga pagsusuri sa privacy at integridad na ito ay pangunahing isinasagawa ng mga tao. Subalit, ang mga panloob na dokumento na nakuha ng NPR ay nagsasabi na balak ng Meta na gawing awtomatiko hanggang 90% ng mga pagsusuring ito sa lalong madaling panahon. Ibig sabihin, ang mahahalagang update sa algorithm, mga bagong tampok sa seguridad, at mga pagbabago sa paraan ng pagbabahagi ng nilalaman ay karamihan ay aaprubahan na ng mga AI system nang walang karaniwang pagsusuri ng tao na nag-iingat para sa mga posibleng di-inaasahang epekto o maling paggamit. Sa loob ng Meta, itinuturing na kapaki-pakinabang ang pagbabagong ito para sa mga gumagawa ng produkto sa pamamagitan ng pagpapabilis ng pagpapalabas ng mga update at tampok. Ngunit, nagdadalamhati ang mga kasalukuyan at dating empleyado na maaaring magdulot ang awtomasyon na ito ng kakulangan sa tamang pagtaya sa mga panganib, na posibleng magdulot ng tunay na pinsala sa mundo. Isang dating opisyal ng Meta ang nagsabi na ang mas mabilis na paglulunsad na may mas kaunting masusing pagsusuri ay nagpapataas ng posibilidad ng negatibong resulta, dahil maaaring hindi maagapan ang mga problema bago pa man mangyari. Pahayag ng Meta na milyong-bilyong piso ang inilaan nito upang protektahan ang privacy ng mga gumagamit at sinabi nitong ang mga bagong pagbabago sa pagsusuri ng panganib ay naglalayong mapabilis ang paggawa ng desisyon habang nananatili ang human expertise para sa mga bagong suliranin o komplikadong isyu. Iginigiit nila na tanging mga “mababang panganib” na desisyon ang gagawing awtomatiko. Subalit, ipinapakita ng mga panloob na dokumento na maaaring i-extend ng automation ang saklaw nito sa mga sensitibong larangan tulad ng kaligtasan ng AI, panganib sa kabataan, at pangkalahatang integridad ng plataporma, kabilang na ang mapanirang nilalaman at misinformation. Kasama sa bagong proseso ay ang pagkumpleto ng mga produktong koponan ng isang tanong para makatanggap ng “instant decision” mula sa AI, na naglalahad ng mga panganib at mga kailangang gawin na hakbang. Noon, kailangang aprubahan muna ng risk assessors ang mga update bago ito ilunsad; ngayon, halos sarili na ng mga engineer ang pagtaya sa mga panganib maliban na lang kung partikular nilang hihilingin ang pagsusuri ng tao. Nagbibigay-daan ito sa mga engineer at produkto na gumawa ng desisyon, kahit na hindi sila eksperto sa privacy, kaya nagkukuwestiyon ang ilan sa kalidad ng mga pagsusuri.

Si Zvika Krieger, dating direktor ng responsible innovation ng Meta, ay nagbabala na pangunahing sinusuri ang mga koponan batay sa bilis ng paglulunsad, hindi sa kaligtasan; at ang sariling pagtataya ay maaaring maging isang porma lamang ng pag-check na hindi masyadong pinagtutuunan ng pansin ang mga malalaking isyu. Ayon sa kanya, may pagkakataon para sa automation, subalit nagbabala siyang ang sobra-sobrang pagtitiwala sa AI ay maaaring bawasan ang kalidad ng pagsusuri. Binabawi ng Meta ang mga pangamba, na nagsasabing sumusubok ito sa AI decisions para sa mga proyekto na walang kasamang pagsusuri ng tao. Ang kanilang operasyon sa Europa, na nasasakupan ng mahigpit na batas tulad ng Digital Services Act, ay magpapanatili ng human oversight mula sa punong-tanggapan nito sa Ireland. Ang ilang pagbabago ay kasabay ng pagtatapos ng Meta sa kanilang fact-checking program at pagpapaluwag sa mga patakaran laban sa hate speech, na nagsisilbing senyales ng mas malawak na pagbabago sa kumpanya patungo sa mas mabilis na mga update at mas kaunting limitasyon sa nilalaman—isang pagluwag sa mga matagal nang patakaran na naglalayong maiwasan ang pang-aabuso sa platform. Ang ganitong hakbang ay kasabay ng mga pagtatangka ni CEO Mark Zuckerberg na makipag-ayos sa mga politikal na personalidad tulad ni dating Pangulong Trump, na tinawag ni Zuckerberg na isang “cultural tipping point. ” Ang pagtutulak sa automation ay konektado rin sa mahabang plano ng Meta na gamitin ang AI para pabilisin ang operasyon sa gitna ng kompetisyon mula sa TikTok, OpenAI, at iba pa. Kamakailan, mas binuo pa nila ang pag-asa sa AI para sa pagpapatupad ng content moderation, gamit ang mga language models na mas magaling pa kaysa tao sa ilang patakaran. Dahil dito, nakakapagtuon ang mga human reviewers sa mas masalimuot na kaso. Suportado ni Katie Harbath, isang dating eksperto sa pampublikong polisiyang Facebook, ang gamit ng AI para mapabilis at mapabuti ang serbisyo, ngunit binibigyang-diin niya ang pangangailangan ng pagsusuring tao. Sa kabilang banda, isang dating empleyado ng Meta ang nagduda kung wise ba ang pagpapabilis ng risk assessments, dahil madalas na ang mga bagong produkto ay sumasailalim sa mabusising pagsusuri na maaari ring makalampas sa ilang isyu. Ayon kay Michel Protti, chief privacy officer ng Meta para sa produkto, ang mga pagbabagong ito ay naglalayong bigyang-kapangyarihan ang mga koponan at paunlarin ang risk management upang maging mas simple ang paggawa ng desisyon. Ang rollout ng automation ay nagsimula noong Abril at Mayo 2024. Ngunit, may ilang insider na nagsasabi na ang deskripsyong ito ay kulang, at binibigyang-diin na ang pagtanggal ng tao mula sa pagsusuri sa panganib ay nakabababa sa kritikal na papel ng human perspective sa mga posibleng pinsala, na ginagawang “irresponsible” ang ganitong hakbang, lalo na’t nasa misyon ng Meta ang proteksyon sa kanilang platform. Sa kabuuan, lumilipat ang Meta mula sa human-led na pagsusuri sa panganib tungo sa pangunahing pagsusuri gamit ang AI upang mapabilis ang inobasyon ngunit may seryosong pangamba mula sa loob tungkol sa posibleng kakulangan sa masusing pagsusuri, mga posibleng pinsala, at ang kakayahan ng AI na humarap sa mga komplikadong etikal at pang-safety na isyu.