Vite që nga vitet e kaluara, ekipet e vlerësuesve të Meta-it kanë vlerësuar rreziqet potenciale çdo herë që lançoheshin funksione të reja në Instagram, WhatsApp dhe Facebook, duke vlerësuar çështje si kërcënimet ndaj privatësisë së përdoruesve, dëmtimin e minorenëve ose përhapjen e përmbajtjes mashtruese ose toksike. Këto rishikime për privatësinë dhe integritetin kryesisht ishin kryer nga vlerësues njerëzorë. Sidoqoftë, dokumente të brendshme që i janë siguruar NPR-tohe se Meta planifikon të automatizojë deri në 90% të këtyre vlerësimeve të rrezikut së shpejti. Kjo do të thotë se përditësimet kritike të algoritmeve, funksionet e reja të sigurisë dhe ndryshimet në ndarjen e përmbajtjes do të miratohen kryesisht nga sistemet inteligjjonale artificiale pa ndonjë kontrollje të zakonshme nga stafi, që merr parasysh pasojat e paparashikuara ose abuzimin. Brenda Meta-s, ky ndryshim shihet si i favorshëm për zhvilluesit e produkteve duke shpejtuar lançimin e përditësimeve dhe funksionave. Megjithatë, ish-ndërmjetësit aktualë dhe të mëparshëm përsërisin se kjo automatizim mund të çojë në vlerësime të papërfunduara të rrezikut, duke vënë në rrezik dëme reale në botë. Një ish-drejtues i Meta-s shprehu shqetësim se lansimet më të shpejta me rishikim më pak rigoroz rrisin mundësinë e rezultateve negative, pasi më pak problematika mund të kapen paraprakisht. Meta deklaroi se ka investuar miliarda për të mbrojtur privatësinë e përdoruesve dhe se ndryshimet e reja në vlerësimin e rrezikut synojnë të thjeshtëzojnë vendimmarrjen duke ruajtur ekspertizën njerëzore për çështje të reja ose komplekse. Ato pretendojnë se vetëm vendimet “me rrezik të ulët” do të automatizohen. Megjithatë, dokumentet e brendshme sugjerojnë se automatizimi mund të përfshijë fusha të ndjeshme si siguria e AI-së, rreziku për të rinjtë dhe integriteti i përgjithshëm i platformës, që përfshin përmbajtje të dhunshme dhe dezinformim. Proçesi i ri përfshin ekipet e produkteve duke plotësuar një pyetësor për të marrë një “vendim të shpejtë” nga AI, duke përshkruar rrezikun dhe masat e nevojshme për t’u zbutur. Më herët, vlerësuesit e rrezikut duhet të miratohen për ndryshimet në produkt përpara lançimit; tani, inxhinierët kryesisht vlerësojnë rrezikun vetë, përveçse të kërkojnë saktësisht një kontroll njerëzor. Ky ndryshim fuqizon inxhinierët dhe ekipet e produkteve—të cilët shpesh nuk janë ekspertë në privatësi—për të bërë gjykime, duke ngritur shqetësime për cilësinë e vlerësimeve.

Zvika Krieger, ish-drejtori i inovacionit përgjegjës të Meta-s, paralajmëroi se ekipet e produkteve kryesisht vlerësohen për lançimet e shpejta, jo për sigurinë, dhe se vetë-vlerësimet rrezikojnë të bëhen vetëm një kontroll kuti që nuk zbulon çështje të rëndësishme. Ai pranoi mundësinë e automatizimit, por u kujtoi se mbështetja e tepruar në AI mund të ulë cilësinë e rishikimit. Meta e minimizoi frikën, duke vënë në dukje se auditon vendimet e AI-së për projektet pa kontroll njerëzor. Operacionet e saj evropiane, të rregulluara nga rregulla strikte si Akti për Shërbimet Digjitale, do të vazhdojnë të mbajnë mbikëqyrje njerëzore nga zyra e Irlandës. Disa ndryshime korrespondojnë me ndërprerjen e programit të kontrollit të fakteve dhe me lehtësimin e politikave për fjalinë urrejtjesh, duke sinjalizuar një prirje të përgjithshme të kompanisë për shpejtimin e përditësimeve dhe uljen e kufizimeve të përmbajtjes—një lehtësim i kufijve të gjatë të vendosur për të parandaluar keqpërdorimin e platformës. Kjo qasje pason përpjekjet e CEO-së Mark Zuckerberg për t’u përshtatur me figurat politike si ish-Presidenti Trump, të cilin Zuckerberg e përshkroi si një “pikë kthese kulturore. ” Përpjekja për automatizim lidhet gjithashtu me strategjinë shumëvjeçare të Meta-s për përdorimin e AI-së për të shpejtuar operacionet, duke shpresuar të përballet me konkurrencën nga TikTok, OpenAI dhe të tjerë. Meta kohët e fundit rriti mbështetjen tek AI-ja për zbatimin e rregullave të përmbajtjes, duke përdorur modele gjuhësore që janë më të suksesshëm se njerëzit në disa fusha të politikave. Kjo i lejon recenzentët njerëzorë të përqendrohen në raste më komplekse. Katie Harbath, ish-eksperte për politikë publike në Facebook, mbështet përdorimin e AI-së për të përmirësuar shpejtësinë dhe efikasitetin, por thekson nevojën për kontrolla njerëzore. Përkundrazi, një ish-punonjës tjetër i Meta-s pyeti nëse është i mençur që të shpejtohet vlerësimi i rrezikut, duke theksuar se produktet e reja përballen me rishikime të trasha, të cilat shpesh zbulojnë çështje të injoruara. Michel Protti, drejtor i privatësisë për produktet në Meta, përshkroi ndryshimet si fuqizim të ekipeve të produkteve dhe evoluimin e menaxhimit të rrezikut për të thjeshtësuar vendimmarrjen. Shpërndarja e automatizimit u shpejtua gjatë prillit dhe majit 2024. Sidoqoftë, disa të brendshëm kritikojnë këtë përshkrim, duke theksuar se largimi i njerëzve nga vlerësimi i rrezikut minon perspektivën kritike njerëzore mbi dëmet potenciale, duke e cilësuar vendimin “jo përgjegjës” në)dër të tjera, misionin e Meta-së. Në përmbledhje, Meta po hyn në një fazë ku vlerësimet e rrezikut kryesisht do të kryhen nga AI-ja, duke u shmangur nga vlerësimet manuale të njërës anë për të shpejtuar inovacionin, por duke shfaqur shqetësime serioze në brendësi për kontrollin e dobët, potencialin për dëme dhe mjaftueshmërinë e AI-së për t’u përballur me çështje komplekse etike dhe të sigurisë.