Under många år bedömde Metas team av granskare potentiella risker varje gång nya funktioner lanserades på Instagram, WhatsApp och Facebook, och utvärderade frågor som hot mot användarens integritet, skada för minderåriga eller spridning av vilseledande eller giftigt innehåll. Dessa granskningar av sekretess och integritet genomfördes huvudsakligen av människliga bedömare. Men interna dokument som NPR har fått tag på avslöjar att Meta planerar att automatisera upp till 90 % av dessa riskbedömningar inom en snar framtid. Det innebär att avgörande algoritmuppdateringar, nya säkerhetsfunktioner och förändringar i innehållsspridning i huvudsak kommer att godkännas av AI-system utan den vanliga personalgranskningen som tar hänsyn till oförutsedda konsekvenser eller missbruk. Inom Meta ses denna förändring som fördelaktig för produktutvecklare genom att snabba på lanseringen av uppdateringar och funktioner. Ändå oroar sig nuvarande och tidigare anställda för att denna automatisering kan leda till otillräcklig bedömning av risker, vilket i sin tur kan orsaka skada i verkliga livet. En tidigare Meta-chef uttryckte oro för att snabbare lanseringar med mindre rigorös granskning ökar sannolikheten för negativa utfall, eftersom färre problem upptäcks i förväg. Meta uppgav att man har investerat miljarder för att skydda användarnas integritet och att de nya förändringarna i riskbedömningen syftar till att förenkla beslutsfattandet samtidigt som man behåller mänsklig expertis för nya eller komplexa frågor. De hävdar att endast “lågrisk” beslut kommer att automatiseras. Men interna dokument tyder på att automatisering kan utökas till känsliga områden som AI-säkerhet, risk för ungdomar och den allmänna plattformsintegriteten, vilket omfattar våldsamt innehåll och desinformation. Den nya processen innebär att produktteam fyller i en enkät för att få ett “instant beslut” från AI, där risker och nödvändiga åtgärder redogörs. Tidigare var riskbedömare tvungna att godkänna produktuppdateringar innan de lanserades; nu görs ofta självbedömningar av ingenjörerna, såvida de inte specifikt begär en mänsklig granskning. Denna förändring ger mer makt åt ingenjörerna och produktteamet—som ofta inte är experter på sekretess—att själva bedöma riskerna, vilket väcker frågor om bedömningarnas kvalitet.

Zvika Krieger, tidigare ansvarig för hållbar innovation på Meta, varnade för att produktteam i huvudsak bedöms efter hur snabbt de lanserar, inte för säkerheten, och att självbedömningar riskerar att bli en form av “kryssmarkering” som kan missa viktiga problem. Han erkände att automation kan spela en roll men varnade för att ett för stort beroende av AI kan försvaga kvalitén i granskningarna. Meta tonar ner oroande röster och påstår att man granskar AI-beslut för projekt utan mänsklig granskning. Deras verksamhet i Europa, som styrs av strikta regler som Digital Services Act, kommer att behålla mänsklig övervakning från deras huvudkontor i Irland. Vissa av dessa förändringar sammanfaller med att Meta avvecklar sitt faktagranskningsprogram och lättar på policyerna mot hatpropaganda, vilket signalerar ett mer fortsätt företagsinriktat fokus på snabbare uppdateringar och färre innehållsrestriktioner—en avveckling av de länge etablerade skydd som funnits för att förhindra missbruk av plattformen. Den här strategin följer också VD Mark Zuckerbergs försök att anpassa sig till politiska figurer som tidigare president Trump, vars val Zuckerberg beskrev som en “kulturell brytpunkt. ” Intrycket av automatiseringen är också en del av Metas långsiktiga strategi att använda AI för att snabbare driva verksamheten i takt med konkurrensen från TikTok, OpenAI och andra. Meta har nyligen ökat sitt beroende av AI för att upprätthålla innehållsmoderering, med språkmodeller som supereffektiviserar i vissa policyområden. Detta frigör mänskliga granskarresurser för mer komplexa fall. Katie Harbath, tidigare expert på publikpolicy på Facebook, stödjer att använda AI för att öka hastigheten och effektiviteten, men understryker behovet av mänskliga kontrollmoment. En annan före detta Meta-anställd ifrågasätter om det är klokt att snabba på riskbedömningarna, med tanke på att nya produkter ofta granskas mycket noggrant, vilket ofta upptäcker missade problem. Michel Protti, Meta’s chef för integritetsskydd av produkter, beskrev förändringarna som ett kvantsprång för att stärka produktteam och utveckla riskhanteringen för att förenkla beslutsfattandet. Implementeringen av automatisering accelererade under april och maj 2024. Men vissa insiders kritiserar detta och menar att att ta bort mänskliga bedömare underminerar det viktiga mänskliga perspektivet på potentiell skada, och kallade det “oansvarigt” med tanke på Metas uppdrag. Sammanfattningsvis rör sig Meta mot att ersätta mänskliga riskbedömare med huvudsakligen AI-drivna processer för plattformsändringar, i syfte att snabba på innovationen men samtidigt väcka allvarliga bekymmer internt om bristande granskning, potentiell skada och AI:s förmåga att hantera komplexa etiska och säkerhetsmässiga frågor.