Aastaid hindas Meta hindamismeeskond potentsiaalseid riske ning esimeste funktsioonide kasutuselevõtul Instagramil, WhatsAppil ja Facebookil, hindades selliseid muresid nagu kasutajate privaatsuse oht, noorte kahjustamine või eksitava või toksilise sisu levik. Need privaatsuse ja integriteedi hindamised teostasid peamiselt inimesed. Kuid NPR kaudu saadi sisemisi dokumente, mis näitavad, et Meta plaanib peagi automatiseerida kuni 90% neist riskide hindamistest. See tähendab, et olulised algoritmiuuendused, uued turvafunktsioonid ja sisu jagamise muudatused kinnitatakse peaasjalikult tehisintellekti süsteemide poolt, ilma tavapärase personali sekkumiseta, mis võtab arvesse ettenägematuid tagajärgi või väärkasutust. Meta sees nähakse seda muudatust kasulikuna toodete arendajatele, kuna see kiirendab uuenduste ja funktsioonide kasutuselevõttu. Kuid praegused ja endised töötajad muretsevad, et see automatiseerimine võib viia riskide ebapiisava hindamiseni ning põhjustada tõelisi kahjustusi. Endine Meta juht väljendas muret, et kiiremad käivitused ja vähem rangem hindamine suurendavad negatiivsete tagajärgede tõenäosust, kuna vähem probleeme avastatakse eelnevalt. Meta väitis, et on investeerinud miljardeid kasutajate privaatsuse kaitsmisse ning et uued riskihindamise muudatused eesmärk on lihtsustada otsuste tegemist, jättes siiski inimese ekspertiisi alles uute või keeruliste küsimuste puhul. Nad väidavad, et automatiseeritakse vaid “madala riskiga” otsuseid. Siiski näitavad sisemised dokumendid, et automatiseerimine võib ulatuda tundlikumatesse valdkondadesse, nagu tehisintellekti ohutus, noorte riskid ja üldine platvormi terviklikkus, mis hõlmab vägivaldset sisu ja valeinformatsiooni. Uus protsess hõlmab toote meeskondade küsimustiku täitmist, mille tulemusena saab tehisintellekt "kiire otsuse", kus väljatoodud riskid ja vajalikud leevendusmeetmed. Varasemalt peavad riskihindajad kinnitama toote uuendused enne lansseerimist; nüüd hindavad insenerid peamiselt ise riske, välja arvatud juhul, kui nad eripäraselt taotlevad inimese ülevaatust. See muudatus annab rohkem võimu inseneridele ja toote meeskondadele — kes sageli ei ole privaatsuse eksperdid — ning tõstab murest kvaliteedi kohta hindamistes.

Zvika Krieger, endine Meta vastutava innovatsiooni direktor, hoiatas, et toodete meeskondi hinnatakse peamiselt kiirete käivituste põhjal, mitte ohutuse ja riskide eest hoolitsemise järgi, ning et enesehinnangud võivad muutuda pelgalt vormivastavaks tegevuseks, milles olulisi probleeme märgatakse liiga vähe. Ta tunnistas võimalust automatiseerimiseks, kuid hoiataski, et liigkasutus tehisintellektist võib kahjustada hindamise kvaliteeti. Meta lükkas hirmud tagasi, märkides, et see auditeerib tehisintellekti otsuseid projektide jaoks, mille puhul ei tehta inimese sekkumist. Nende Euroopa tegevust reguleerivad ranged nõuded nagu Digital Services Act ning inimlik ülevaatus säilib Iiri peakontori juures. Mõned muudatused langevad kokku Meta otsusega lõpetada faktikontrolli programm ja leevendada vihkamisega seotud poliitikaid, mis viitab laiemale ettevõtte suunale kiiremateks uuendusteks ning vähemaks sisu piiranguteks — pikaajaliste kaitsealuste tõketega, mis on suunatud platvormi väärkasutuse vältimisele. See lähenemine järgib CEO Mark Zuckerbergi püüdlusi sobituda poliitiliste figuuridega nagu endine president Trump, kelle valimine oli Zuckerbergile kui “kultuuriline pöördepunkt. ” Automatiseerimise suund seostub ka Meta mitmeaastase strateegiaga kasutada tehisintellekti toimingute kiirendamiseks ning konkureerimiseks TikToki, OpenAI ja teistega. Meta on hiljini suurendanud tehisintellekti kasutust sisu moderatsioonis, rakendades keelemudeleid, mis ületavad inimestesõbralikkuse mõningates poliitikateenustes. See võimaldab inimlikel hindajatel keskenduda keerukamatele juhtumitele. Endine Facebooki avaliku poliitika ekspert Katie Harbath toetab tehisintellekti kasutamist kiiruse ja efektiivsuse tõstmiseks, rõhutades, et vaja on ka inimlikke kontrolli. Teisalt küsis endine Meta töötaja, kas riskihindamiste kiirendamine on tark otsus, kuna uued tooted läbivad tugeva kontrolli, mis tihti avab tähelepanuta jäänud probleeme. Michel Protti, Meta toote andmekaitse juht, nimetas muudatusi toote meeskondade võimestamiseks ja riskijuhtimise lihtsustamiseks. Automaatne protsess laienes kiirusega aprillist mai 2024. Kuid mõned sisemised allikad kritiseerivad seda kujutist, rõhutades, et inimeste kõrvaldamine riskide hindamisel lõhub inimlikku perspektiivi võimalike kahjude osas ning nimetavad seda “ebotstarbekaks, ” arvestades Meta missiooni. Kokkuvõttes liigub Meta inimesekesksetest riskihindamistest peamiselt tehisintellektipõhiste hindamisteni platvormi muudatuste jaoks, soovides kiirendada uuendusi, kuid sisemiselt tõusevad tõsised ärevused privaatsuse ning keerukate eetiliste ja turvalisuslike küsimuste käsitlemise kvaliteedi osas, sest manustatakse usaldust AI-le, mis võib olla ebapiisav või ohtlik.