I årevis har Metas vurderingsteam vurdert potensielle risikoer hver gang nye funksjoner ble lansert på Instagram, WhatsApp og Facebook, og evaluert bekymringer som trusler mot personvern, skade på mindreårige eller spredning av villedende eller giftig innhold. Disse vurderingene av personvern og integritet ble primært utført av menneskelige evaluatører. Imidlertid viser interne dokumenter innhentet av NPR at Meta planlegger å automatisere opptil 90 % av disse risikovurderingene innen kort tid. Dette betyr at viktige algoritmeoppdateringer, nye sikkerhetsfunksjoner og endringer i innholdsdeltakelse i stor grad vil bli godkjent av AI-systemer uten den vanlige manuelle vurderingen som tar hensyn til uforutsette konsekvenser eller misbruk. Innenfor Meta anses dette skiftet som fordelaktig for produktutviklere ved å fremskynde lanseringen av oppdateringer og funksjoner. Likevel er nåværende og tidligere ansatte bekymret for at denne automatiseringen kan føre til utilstrekkelig vurdering av risikoer, noe som potensielt kan forårsake skade i den virkelige verden. En tidligere Meta-leder uttrykte bekymring for at raskere lanseringer med mindre grundig vurdering øker sannsynligheten for negative utfall, ettersom færre problemer oppdages på forhånd. Meta opplyser at de har investert milliarder i å beskytte brukernes personvern, og at de nye endringene i risikovurderinger er ment å gjøre beslutningsprosessene mer effektive, samtidig som menneskelig ekspertise beholdes for nye eller komplekse problemstillinger. De hevder at kun “lavrisiko” beslutninger vil bli automatisert. Imidlertid tyder interne dokumenter på at automatiseringen kan utvides til sensitive områder som AI-sikkerhet, risiko for unge brukere og den generelle plattformintegriteten, som dekker voldelig innhold og feilinformasjon. Den nye prosessen innebærer at produktteamene fyller ut et spørreskjema for å motta en "rask avgjørelse" fra AI, som skisserer risikoer og nødvendige tiltak. Tidligere måtte vurderingsteam godkjenne produktoppdateringer før utrulling; nå vurderer ingeniører i stor grad risikoene selv, med mindre de spesifikt ber om en menneskelig vurdering. Dette gir ingeniører og produktteam større frihet til å ta vurderinger—noe som ofte betyr at de ikke er eksperter på personvern—noe som kan føre til vurderingsfeil.

Zvika Krieger, Metas tidligere direktør for ansvarlig innovasjon, advarte om at produktteamene i stor grad vurderes ut fra hvor raskt de lanserer nye funksjoner, ikke sikkerhet, og at selvvurderinger kan bli bare formelle rutiner som ikke fanger opp viktige problemer. Han påpekte at det er rom for automatisering, men advart mot at overdreven avhengighet av AI kan svekke kvaliteten på vurderingene. Meta avviser bekymringene og peker på at selskapet foretaksrutinemessig sjekker AI-beslutninger for prosjekter uten menneskelig innblanding. Deres europeiske virksomhet, som er underlagt strenge regler som Digital Services Act, vil opprettholde menneskelig tilsyn fra sitt hovedkontor i Ireland. Noen av disse endringene faller sammen med at Meta avslutter sin faktasjekkingsprogram og letter på retningslinjene mot hatprat, noe som signaliserer en bredere selskapspolitikk om å fremskynde oppdateringer og redusere innholdsbegrensninger—en lettelse av langvarige regler som har vært ment å forhindre misbruk av plattformen. Dette følger også CEO Mark Zuckerbergs innsats for å tilpasse seg politiske skikkelser som tidligere president Trump, hvis valg Zuckerberg beskrev som et "kulturelt vendepunkt. " Aksenten på automatisering er også en del av Metas langsiktige strategi om å bruke AI for å akselerere driften, i konkurranse med TikTok, OpenAI og andre. Meta har nylig økt bruken av AI til å håndheve innholdskontroll, med språkmodeller som overgår mennesker i enkelte regelverkssaker. Dette gjør at menneskelige vurderere kan fokusere på mer komplekse saker. Katie Harbath, en tidligere offentlig policy-ekspert for Facebook, støtter bruken av AI for å øke hastigheten og effektiviteten, men understreker behovet for menneskelige kontrollpunkter. Derimot spurte en annen tidligere Meta-ansatt om det er klokt å fremskynde risikovurderinger, og pekte på at nye produkter ofte gjennomgår grundig gransking som avdekker problemer man ellers kan ha oversett. Michel Protti, Metas Chief Privacy Officer for produkter, beskrev endringene som en måte å styrke produktteam og utvikle risikostyringsprinsipper for å forenkle beslutninger. Implementeringen av automatisering ble spedet opp gjennom april og mai 2024. Noen innsidekilder kritiserer imidlertid denne fremstillingen og mener at å fjerne menneskelige vurderinger undergraver den viktige menneskelige perspektivet på potensielle skader, og kaller dette “uforsvarlig” med tanke på Metas oppdrag. Oppsummert går Meta nå over fra menneskestyrte til i stor grad AI-drevne risikovurderinger av plattformendringer, i et forsøk på å kjapt innovere, men dette vekker alvorlige bekymringer internt om svekket gransking, potensielle skadevirkninger og om AI er tilstrekkelig for å håndtere komplekse etiske og sikkerhetsmessige utfordringer.