Przez lata zespoły recenzentów Meta oceniały potencjalne zagrożenia związane z wprowadzaniem nowych funkcji na Instagramie, WhatsAppie i Facebooku, analizując kwestie takie jak zagrożenia dla prywatności użytkowników, szkody dla nieletnich czy rozprzestrzenianie się mylących lub toksycznych treści. Te przeglądy dotyczące prywatności i integralności były głównie przeprowadzane przez ludzi. Jednak wewnętrzne dokumenty uzyskane przez NPR ujawniają, że Meta planuje wkrótce zautomatyzować nawet do 90% tych ocen ryzyka. Oznacza to, że kluczowe aktualizacje algorytmów, nowe funkcje bezpieczeństwa oraz zmiany w dzieleniu się treściami będą w dużej mierze zatwierdzane przez systemy sztucznej inteligencji bez zwykłej kontroli pracowników, która uwzględnia niespodziewane konsekwencje lub nadużycia. W obrębie Meta ta zmiana jest postrzegana jako korzystna dla deweloperów produktów, ponieważ przyspiesza wydanie aktualizacji i funkcji. Jednak obecni i byli pracownicy obawiają się, że automatyzacja ta może prowadzić do niewłaściwej oceny ryzyka, co może skutkować rzeczywistymi szkodami w świecie rzeczywistym. Były dyrektor Meta wyraził obawę, że szybsze uruchomienia z mniejszą rygorystyczną kontrolą zwiększają prawdopodobieństwo negatywnych skutków, ponieważ mniej problemów zostanie wykrytych wcześniej. Meta oświadczyła, że zainwestowała miliardy dolarów w ochronę prywatności użytkowników i że nowe zmiany w ocenie ryzyka mają na celu usprawnienie procesu decyzyjnego przy jednoczesnym zachowaniu ludzkiej ekspertyzy w przypadku nowatorskich lub skomplikowanych kwestii. Twierdzą, że automatyzacja będzie dotyczyć wyłącznie decyzji o „niskim ryzyku. ” Jednak wewnętrzne dokumenty sugerują, że automatyzacja może objąć również wrażliwe obszary, takie jak bezpieczeństwo sztucznej inteligencji, ryzyko dla młodzieży czy ogólna integralność platformy, obejmująca treści przemocowe i dezinformację. Nowy proces polega na tym, że zespoły produktowe wypełniają kwestionariusz, aby otrzymać „natychmiastową decyzję” od AI, która wskazuje ryzyko oraz zalecane środki zaradcze. Dotychczas oceniający ryzyko musieli zatwierdzić aktualizacje przed wdrożeniem; teraz inżynierowie głównie oceniają sami ryzyko, chyba że poproszą o ludzką recenzję. Ta zmiana daje więcej możliwości inżynierom i zespołom produktowym — którzy często nie są ekspertami od prywatności — do samodzielnego oceniania, co budzi obawy o jakość tych ocen. Zvika Krieger, były dyrektor odpowiedzialnej innowacji w Meta, ostrzegł, że zespoły produktowe są oceniane głównie przez pryzmat szybkich wdrożeń, a nie bezpieczeństwa, i że samooceny mogą zamieniać się w jedynie formalne sprawdzanie, które pomija istotne problemy. Przyznał, że istnieje miejsce na automatyzację, ale zaapelował, by nie polegać nadmiernie na AI, bo może to pogorszyć jakość ocen. Meta bagatelizuje obawy, zaznaczając, że audytuje decyzje AI w projektach bez ludzkiego nadzoru.

Jej europejskie operacje, które działają zgodnie z surowymi regulacjami, takimi jak Digital Services Act, będą nadal utrzymywać nadzór ludzki z głównej siedziby w Irlandii. Niektóre zmiany zbiegać się będą z końcem programu weryfikacji faktów i złagodzeniem polityki wobec mowy nienawiści, co wskazuje na szerszą zmianę firmy w kierunku szybszych aktualizacji i mniejszej liczby ograniczeń treściowych — czyli złagodzenia dotychczasowych zabezpieczeń mających na celu zapobieganie nadużyciom platformy. Podejście to wpisuje się w wysiłki CEO Marka Zuckerberga, by dostosować się do polityków, w tym byłego prezydenta Trumpa, którego wybór Zuckerberg określił jako „punkt zwrotny kulturowy. ” Ruch w kierunku automatyzacji jest również częścią wieloletniej strategii Meta, mającej na celu użycie sztucznej inteligencji do przyspieszenia działań wobec rosnącej konkurencji TikToka, OpenAI i innych. Meta ostatnio zwiększyła reliance na AI do egzekwowania moderacji treści, korzystając z modeli językowych, które w niektórych obszarach mogą przewyższać ludzi. Umożliwia to recenzentom ludzkiemu skupienie się na bardziej skomplikowanych przypadkach. Katie Harbath, była ekspertka ds. polityki publicznej w Facebooku, popiera użycie AI w celu zwiększenia szybkości i wydajności, podkreślając jednak konieczność kontroli ludzkiej. Z kolei inny były pracownik Meta kwestionował, czy szybsza ocena ryzyka jest mądrym rozwiązaniem, wyjaśniając, że nowe produkty są poddawane intensywnej kontroli, która często ujawnia zaniedbane kwestie. Michel Protti, główny oficer ds. prywatności produktów w Meta, opisał zmiany jako dające zespołom produktowym większą władzę i upraszczające zarządzanie ryzykiem. Równocześnie przyspieszono wdrażanie automatyzacji w kwietniu i maju 2024 roku. Jednak niektórzy insiderzy krytykują to jako nadmierne rozdmuchiwanie tej narracji, podkreślając, że usunięcie ludzi z procesu oceny ryzyka osłabia kluczową ludzką perspektywę na potencjalne szkody, a taki krok określają jako „nieodpowiedzialny” w kontekście misji Meta. Podsumowując, Meta przesuwa się od oceny ryzyka prowadzonych przez ludzi do głównie AI, starając się przyspieszyć innowacje, ale wewnętrznie budzi to poważne obawy o osłabienie kontroli, potencjalne szkody i adekwatność AI w rozwiązywaniu skomplikowanych kwestii etycznych i bezpieczeństwa.