Godinama timovi za pregled Meta-e ocenjivali su potencijalne rizike kada bi se na Instagramu, WhatsAppu i Facebooku pokrenule nove funkcije, procenjujući zabrinutosti kao što su pretnje korisničkoj privatnosti, šteta po maloletnike ili širjenje obmanjujućeg ili toksičnog sadržaja. Ove provere privatnosti i integriteta uglavnom su obavljali ljudi. Međutim, internim dokumentima koje je pribavila NPR otkriva se da Meta planira uskoro automatizovati do 90% ovih procena rizika. To znači da će ključne nadogradnje algoritama, nove sigurnosne funkcije i promene u deljenju sadržaja uglavnom odobravati AI sistemi bez uobičajene inspekcije od strane osoblja, koja bi uzela u obzir nepredviđene posledice ili zloupotrebe. Unutar Meta-e, ova promena se smatra kao prednost za developere proizvoda jer ubrzava objavljivanje nadogradnji i funkcija. Ipak, sadašnji i bivši zaposleni brinu da bi ova automatizacija mogla dovesti do nedostatka prikladne procene rizika, potencijalno uzrokujući štetu u stvarnom svetu. Bivši izvršni direktor Meta-e izrazio je zabrinutost da brza lansiranja sa manje rigoroznih recenzija povećavaju verovatnoću negativnih ishoda, jer bi se manje problema moglo otkriti unapred. Meta je saopštila da je uložila milijarde u zaštitu privatnosti korisnika i da izmene u procesu procene rizika imaju za cilj pojednostavljenje donošenja odluka, uz zadržavanje ljudskog učešća kod novih ili složenih pitanja. Navodi se da će samo odluke sa „niskim rizikom“ biti automatizovane. Ipak, interni dokumenti sugerišu da bi automatizacija mogla obuhvatiti osetljive oblasti poput bezbednosti AI, rizika za mlade ili celokupnog integriteta platforme, što uključuje sadržaje nasilja i dezinformacije. Novi proces uključuje da timovi za proizvode popune upitnik kako bi dobili „instant“ odluku od AI, koja obuhvata procenu rizika i neophodnih mera za njihovo ublažavanje. Ranije su procenitelji rizika morali odobriti nadogradnje proizvoda pre nego što su pušteni u rad; sada, inženjeri uglavnom sami procenjuju rizike, osim ako posebno ne zahtevaju ljudsku procenu. Ova promena daje ovlašćenje inženjerima i timovima za proizvode—koji često nisu stručnjaci za privatnost—da donose sudove, što izaziva zabrinutost u pogledu kvaliteta procena. Zvika Krieger, bivši direktor odgovorne inovacije u Meta-i, upozorio je da su timovi za proizvode primarno ocenjivani po brzini lansiranja, a ne prema sigurnosti, i da samostalne procene mogu postati puklo proveravanje kutija, što može dovesti do propuštanja važnih problema.

Takođe je istakao da postoji prostor za automatizaciju, ali je upozorio da prekomerna zavisnost od AI-a može narušiti kvalitet recenzije. Meta je minimizirala strahove, ističući da vrši reviziju AI odluka za projekte bez ljudskog učešća. Njena evropska operacija, koja je podložna strokim regulativama poput Zakona o digitalnim uslugama, održaće ljudski nadzor putem sedišta u Irskoj. Neke promene poklapaju se sa završetkom programa za proveru tačnosti informacija i olabavljanjem politika protiv govora mržnje, što ukazuje na širu promenu u kompaniji ka bržim nadogradnjama i manjim ograničenjima sadržaja—olakšavanju dugogodišnjih zaštitnih mera usmerenih na sprečavanje zloupotrebe platforme. Ovaj pristup odražava napore izvršnog direktora Marka Zakerberga da se uskladi sa političkim ličnostima poput bivšeg predsednika Trampa, čiju je izbore Zakerberg opisao kao „kulturnu prelomnu tačku“. Pritisak za automatizaciju takođe je deo višegodišnje strategije Meta-e da koristi AI za ubrzanje operacija u konkurenciji sa TikTok-om, OpenAI-jem i drugim konkurentima. Meta je nedavno povećala oslanjanje na AI u sprovođenju sadržajne moderacije, koristeći modele jezika koji nadmašuju ljude u određenim politikama. To omogućava ljudskim recenzentima da se fokusiraju na složenije slučajeve. Keti Harbat, bivša stručnjakinja za javnu politiku u Facebooku, podržava korišćenje AI za povećanje brzine i efikasnosti, ali naglašava potrebu za ljudskom kontrolom. Nasuprot tome, još jedan bivši zaposleni u Meta-i upitao je da li je pametno ubrzavati procenu rizika, ističući da novi proizvodi prolaze kroz intenzivnu inspekciju gde se često otkriju zanemareni problemi. Mikel Proti, glavni službenik za privatnost u Meta-i za proizvode, opisao je promene kao osnaživanje timova za proizvode i evoluciju upravljanja rizicima radi pojednostavljenja donošenja odluka. Automatizacija je ubrzana tokom aprila i maja 2024. godine. Ipak, neki insajderi kritikuju ovu karakterizaciju, ističući da uklanjanje ljudi iz procene rizika narušava ključnu ljudsku perspektivu o potencijalnim štetama, nazivajući taj potez „nemoralan“ s obzirom na misiju Meta-e. Ukratko, Meta prelazi od procena rizika vođenih od strane ljudi na uglavnom AI-om vođene procene za promene na platformi, s ciljem ubrzanja inovacija, ali i sa ozbiljnim unutrašnjim zabrinutostima zbog narušene kontrole, potencijalne štete i nedovoljnog oslanjanja na AI u rešavanju složenih etičkih i bezbednosnih pitanja.