Gadu desmitiem Meta samiti novērtēja potenciālos riskus, kad Instagram, WhatsApp un Facebook tika palaisti ar jauniem funkcionalitātes uzlabojumiem, novērtējot tādas problēmas kā draudi lietotāju privātumam, kaitējums mazākumpersonām vai maldinoša vai toksiska satura izplatīšana. Šīs privātuma un integritātes pārbaudes galvenokārt veica cilvēki novērtētāji. Tomēr NPR iegūtie iekšējie dokumenti rāda, ka Meta drīzumā plāno automatizēt līdz pat 90% no šīm risku novērtēšanas. Tas nozīmē, ka būtiski algoritmu uzlabojumi, jaunas drošības funkcijas un satura koplietošanas izmaiņas lielākoties tiks apstiprinātas ar AI sistēmu palīdzību, neiesaistot parasto darbinieku pārskatīšanu, kas ņem vērā neparedzētas sekas vai ļaunprātīgu izmantošanu. Meta iekšienē šo pārmaiņu uzskata par vērtīgu produktu izstrādātājiem, jo tas paātrina atjauninājumu un jaunu funkciju ieviešanu. Tomēr pašreizējie un bijušie darbinieki satraucas, ka šī automatizācija var novest pie nepietiekamas risku novērtēšanas, kas var nest reālas sekas. Bijušais Meta vadītājs izteica bažas, ka ātrāki ieviešanas process ar mazāk stingru pārskatīšanu palielina iespēju, ka negatīvas sekas netiks laikus pamanītas. Meta norāda, ka ir ieguldījusi miljardus, lai aizsargātu lietotāju privātumu, un jaunās risku pārbaudes izmaiņas mērķētas uz lēmumu pieņemšanas procesu vienkāršošanu, saglabājot cilvēku ekspertīzi jaunos vai sarežģītos jautājumos. Tiek apgalvots, ka automātiski tiks pieņemti tikai “zema riska” lēmumi. Taču iekšējie dokumenti liecina, ka automatizācija varētu tikt attiecināta uz sensitīvām jomām, piemēram, AI drošību, jauniešu risku un kopējo platformas integritāti, kas ietver vardarbīgu saturu un dezinformāciju. Jaunais process paredz, ka produktu komandas aizpilda aptauju, kas ļauj saņemt “uzreizēju lēmumu” no AI, kurā ietverts risku novērtējums un nepieciešamie mazināšanas pasākumi. Agrāk risku novērtētājiem bija jāpārbauda produktu atjauninājumi pirms to ieviešanas; tagad inženieri galvenokārt pašnovērtē riskus, ja vien viņi tieši nepieprasa cilvēka pārskatīšanu. Šīs pārmaiņas dod pilnvaras inženieriem un produktu komandām—bieži vien bez ekspertīzes jautājumos par privātumu—pastiprinot risku un novērtējumu kvalitāti. Zvika Krieger, bijušais Meta atbildīgais inovāciju direktors, brīdināja, ka produktiem ir galvenais uzsvars uz ātru ieviešanu, nevis drošību, un ka pašnovērtējumi var kļūt tikai par formalitāti, kas ignorē būtiskus jautājumus.

Viņš uzsvēra, ka ir iespējama automatizācija, bet arī brīdināja, ka pārlieks AI uzticēšanās var samazināt pārredzamību un kvalitāti. Meta mēģina mazināt bažas, norādot, ka AI lēmumus pārbauda arī bez cilvēka pārskata, un tās Eiropas darbi, kas pakļauti stingriem noteikumiem, piemēram, Digitālo pakalpojumu aktu, turpinās ar cilvēku uzraudzību no Īrijas galvenās biroja. Daļēji šīs izmaiņas sakrīt ar Meta lēmumu pārtraukt faktu pārbaudes programmu un mīkstināt naida runas politiku. Tas signalizē par plašāku uzņēmuma stratēģiju pēc ātrākas ieviešanas un mazāku satura ierobežojumu, kas ir ilggadējo drošības balstu atcelšana, novēršot platformas ļaunprātīgu izmantošanu. Šis solis tikusi veicināts arī pēc Meta vadītāja Marka Zakerberga mēģinājumiem saskaņoties ar politiskiem līderiem, piemēram, bijušo prezidentu Trampu, kuru ievēlēšanu Zakerbergs raksturoja kā “kultūras svarīgu punktu. ” Automatizācijas virzība ir daļa no Meta ilgtermiņa stratēģijas izmantot AI, lai paātrinātu darbību un konkurētu ar TikTok, OpenAI un citiem. Meta nesen palielināja AI izmantošanu satura moderēšanā, izmantojot valodas modeļus, kas dažās politiku jomās ir pārāki par cilvēkiem. Tas ļauj cilvēku novērtētājiem koncentrēties uz sarežģītākiem gadījumiem. Bijušā Facebook publiskās politikas eksperte Katija Harbata atbalsta AI izmantošanu, lai uzlabotu ātrumu un efektivitāti, bet uzsver, ka ir nepieciešama cilvēku pārbaude. Savukārt cits bijušais Meta darbinieks kritizēja, vai ir prātīgi paātrināt risku novērtēšanu, jo jauni produkti pārbauda ļoti intensīvi, un bieži vien problēmas tiek atklātas tikai pēc tam. Meta produktu galvenā privātuma direktore Mihēla Priti raksturoja izmaiņas kā spēcināšanu produktu komandām un riska vadības attīstību, lai vienkāršotu lēmumu pieņemšanu. Automatizācija tika palielināta līdz maijam, 2024. gadam. Taču daži iekšējie kritiķi uzsver, ka šī pieeja, atsakoties no cilvēku iesaistes risku novērtēšanā, apdraud cilvēku nozīmīgo skatījumu uz potenciālajiem riskiem, un sauca šo soli par “neatbildīgu” ņemot vērā Meta misiju. Kopsavilkumā Meta pāriet no cilvēka vadītas uz galvenokārt AI vadītu risku novērtēšanu platformas izmaiņām, cenšoties paātrināt inovācijas procesu, bet vienlaikus izraisot nopietnas bažas par kritiskās uzraudzības trūkumu, iespējamiem riskiem un AI spēju risināt sarežģītus ētiskus un drošības jautājumus.