Godinama, timovi za recenziju Meta-e procjenjivali su potencijalne rizike prilikom lansiranja novih funkcija na Instagramu, WhatsAppu i Facebooku, ocjenjujući zabrinutosti poput prijetnji privatnosti korisnika, štete za maloljetnike ili širenja obmanjujućih ili toksičnih sadržaja. Te provjere privatnosti i integriteta uglavnom su obavljali ljudski evaluatori. Međutim, interni dokumenti dobijeni od NPR otkrivaju da Meta planira uskoro automatizirati do 90% ovih procjena rizika. To znači da će ključna ažuriranja algoritama, nove sigurnosne funkcije i promjene u dijeljenju sadržaja uglavnom odobravati AI sistemi bez uobičajene provjere osoblja koja razmatra nepredviđene posljedice ili zloupotrebe. Unutar Meta-e, ovaj pomak smatra se povoljnim za developere proizvoda jer ubrzava izdavanje ažuriranja i funkcija. Ipak, sadašnji i bivši zaposleni zabrinuti su da bi ova automatizacija mogla dovesti do nedovoljnog ocjenjivanja rizika, što potencijalno može uzrokovati štetu u stvarnom svijetu. Bivši izvršni direktor Meta-e izrazio je zabrinutost da brza lansiranja s manje zahtjevnih provjera povećavaju vjerovatnoću negativnih ishoda, jer se manje problema može otkriti unaprijed. Meta je naveo da je uložila milijarde u zaštitu privatnosti korisnika te da novi procesi procjene rizika imaju za cilj pojednostaviti donošenje odluka uz zadržavanje ljudskog znanja za nove ili složene slučajeve. Tvdi da će samo “nisko-rizične” odluke biti automatizirane. Međutim, interni dokumenti sugeriraju da bi automatizacija mogla proširiti na osjetljiva područja poput sigurnosti AI, rizika za mlade i općeg integriteta platforme, što uključuje nasilne sadržaje i dezinformacije. Novi proces uključuje da timovi za proizvode popune upitnik kako bi dobili "instant" odluku od AI-a, koja opisuje rizike i potrebne mjere ublažavanja. Ranije su procjenjivači rizika morale odobriti promjene prije nego što bi se one implementirale; sada, inženjeri uglavnom sami procjenjuju rizike, osim ako izričito traže ljudsku provjeru. Ovaj pomak daje ovlasti inženjerima i timovima, koji često nisu stručnjaci za privatnost, da donose odluke, što izaziva zabrinutost oko kvaliteta procjena. Zvika Krieger, bivši direktor odgovorne inovacije u Meta-i, upozorio je da se timovi za proizvode prvenstveno ocjenjuju po brzini lansiranja, a ne sigurnosti, te da se samostalne procjene mogu pretvoriti u pukotinu za provjeru, što može previdjeti važna pitanja.

Također je istaknuo da ima prostora za automatizaciju, ali je upozorio da prekomjerna oslonjenost na AI može narušiti kvalitetu recenzija. Meta je umanjila strahove, navodeći da revizije AI odluka obavlja bez ljudske provjere u nekim projektima. Njegove evropske operacije, koje djeluju u skladu s rigoroznim regulativama poput Digitalnog servisa zakona, održavat će ljudski nadzor iz glavne baze u Irskoj. Neke od ovih promjena poklapaju se s završetkom programa za provjeru činjenica i ublažavanjem politika protiv govora mržnje, što signalizira širu promjenu u kompaniji prema bržim ažuriranjima i manjem broju sadržajnih ograničenja—oslabljenju dosadašnjih zaštitnih mjera koje su imale za cilj spriječiti zloupotrebu platforme. Ovaj pristup slijedi napore izvršnog direktora Marka Zuckerberga da uskladi platformu s političkim ličnostima poput bivšeg predsjednika Trumpa, čije je izborno pobjeda Zuckerberg opisao kao “kulturološku prekretnicu. ” Pritisak za automatizacijom također je dio višegodišnje strategije Meta-e da koristi AI za ubrzanje operacija u konkurenciji s TikTokom, OpenAI-jem i drugim. Meta je nedavno povećala oslanjanje na AI za provođenje sadržajne moderacije, koristeći jezične modele koji nadmašuju ljude u nekim područjima politike. To omogućava ljudskim recenzentima da se fokusiraju na složenije slučajeve. Katie Harbath, bivša stručnjakinja za javnu politiku Facebook-a, podržava korištenje AI za poboljšanje brzine i učinkovitosti, ali ističe potrebu za ljudskom provjerom. S druge strane, još jedan bivši zaposlenik Meta-e upitao je je li pametno ubrzavati procjenu rizika, s obzirom na to da se novi proizvodi podvrgavaju velikom nadzoru, što često otkriva previđene probleme. Michel Protti, glavni službenik za privatnost u Meta-i za proizvode, opisao je promjene kao osnaživanje timova za proizvode i razvoj upravljanja rizicima radi pojednostavljenja donošenja odluka. Automatizacija je ubrzana tokom aprila i maja 2024. godine. Ipak, neki unutar kompanije kritiziraju ovu karakterizaciju, naglašavajući da uklanjanje ljudi iz procesa procjene rizika narušava ključnu ljudsku perspektivu o mogućoj šteti, te smatraju da je takav potez “neodgovoran” s obzirom na misiju Meta-e. Ukratko, Meta prelazi s ljudskog na uglavnom AI vođene procjene rizika za promjene na platformi, ciljajući ubrzanje inovacija, ali izazivajući ozbiljne zabrinutosti unutar kompanije oko kompromitirane kontrole, mogućih šteta i adekvatnosti AI u rješavanju složenih etičkih i sigurnosnih pitanja.