Gennem årene vurderede Metas vurderingsteams potentielle risici, hver gang nye funktioner blev lanceret på Instagram, WhatsApp og Facebook, hvor de evaluerede bekymringer som trusler mod brugerens privatliv, skader på mindreårige eller spredning af vildledende eller skadelig indhold. Disse vurderinger af privatliv og integritet blev primært udført af menneskelige vurderere. Men interne dokumenter, indhentet af NPR, afslører, at Meta planlægger at automatisere op til 90 % af disse risikovurderinger inden længe. Det betyder, at væsentlige algoritmeopdateringer, nye sikkerhedsfunktioner og ændringer i indholdssdeling i høj grad vil blive godkendt af AI-systemer uden den sædvanlige ansattegranskning, der tager højde for uforudsete konsekvenser eller misbrug. Internt i. Meta betragtes denne ændring som en fordel for produktudviklere ved at fremskynde frigivelsen af opdateringer og funktioner. Men nuværende og tidligere ansatte er bekymrede for, at denne automatisering kan føre til utilstrækkelig vurdering af risici, hvilket potentielt kan forårsage skade i den virkelige verden. En tidligere leder hos Meta udtrykte bekymring for, at hurtigere lanceringer med mindre grundig vurdering øger sandsynligheden for negative resultater, da færre problemer opdages på forhånd. Meta oplyste, at de har investeret milliarder for at beskytte brugerens privatliv, og at de nye ændringer i risikovurdering har til formål at strømligne beslutningstagningen, mens de stadig bevarer menneskelig ekspertise til nye eller komplekse problemer. De påstår, at kun "lavrisikobeslutninger" vil blive automatiseret. Men interne dokumenter antyder, at automatiseringen kan strække sig til følsomme områder som AI-sikkerhed, risici for unge og den overordnede platformintegritet, herunder voldeligt indhold og misinformation. Den nye proces indebærer, at produktteamene udfylder et spørgeskema for at modtage en "øjeblikkelig beslutning" fra AI, som skitserer risici og nødvendige afbødende foranstaltninger. Tidligere skulle risikovurderere godkende produktopdateringer, inden de blev lanceret; nu vurderer ingeniører i høj grad selv risiciene, medmindre de specifikt anmoder om en menneskelig gennemgang. Denne ændring giver ingeniører og produktteams—som ofte ikke er eksperter i privatliv—mulighed for at træffe vurderinger, hvilket kan skabe bekymring for kvaliteten af vurderingerne.

Zvika Krieger, Metas tidligere direktør for ansvarlig innovation, advarede om, at produktteams primært vurderes på deres evne til at lancere hurtigt, ikke på sikkerhed, og at selv-vurderinger risikerer at blive overfladiske og overser væsentlige problemer. Han erkendte, at der er plads til automation, men advarede om, at overdreven afhængighed af AI kan forringe kvaliteten af vurderingerne. Meta tone ned for bekymringerne og bemærkede, at de foretager revisioner af AI-beslutninger uden menneskeligt indgreb for visse projekter. Derudover vil deres europæiske operationer, som styres af strenge regler som Digital Services Act, fortsat have menneskelig overvågning fra deres hovedkontor i Irland. Nogle af de nye ændringer falder sammen med, at Meta afslutter sin faktatjekningsprogram og lempende politikker for hadefuld tale, hvilket tyder på en bredere omlægning af virksomheden mod hurtigere opdateringer og færre indholdsrestriktioner—en afrigning af de langvarige barrierer for at forhindre misbrug af platformen. Denne tilgang følger CEO Mark Zuckerbergs bestræbelser på at tilpasse sig politiske skikkelser som tidligere præsident Trump, hvis valg Zuckerberg kaldte et "kulturelt vendepunkt. " Automatiseringspresset er også en del af Metas flereårige strategi om at bruge AI til at accelerere operationerne i konkurrencen med TikTok, OpenAI og andre. Meta har for nylig øget sin afhængighed af AI til at håndhæve indholdsmoderering, ved hjælp af sproglige modeller, der i visse områder overgår mennesker. Dette frigør de menneskelige vurderere til at fokusere på mere komplekse sager. Katie Harbath, en tidligere ekspert i Facebooks offentlig politik, støtter brugen af AI for at forbedre hastighed og effektivitet, men understreger behovet for menneskelige kontrolpunkter. En anden tidligere medarbejder hos Meta spurgte, om det er klogt at fremskynde risikovurderinger, da nye produkter ofte gennemgår intensiv kontrol, som kan afdække oversete problemer. Michel Protti, Meta’s chef for privatliv i produktafdelingen, beskrev ændringerne som en måde at styrke produktteamene og udvikle risikostyringen for at forenkle beslutningsprocesserne. Udrulningen af automatiseringen trådte i kraft gennem april og maj 2024. Men nogle insider-kilder kritiserer dette synspunkt og hævder, at fjernelsen af menneskeligt input fra risikovurderinger undergraver den vigtige menneskelige vurdering af potentielle skader, og kalder det "uansvarligt" i forhold til Metas mission. Sammenfattende går Meta fra menneskestyrede til overvejende AI-drevne risikovurderinger for platformændringer i et forsøg på at fremskynde innovationen, men internt er der alvorlige bekymringer om manglende grundighed, potentielle skader og AI’s evne til at håndtere komplekse etiske og sikkerhedsmæssige problemstillinger.