Trong nhiều năm, các đội ngũ đánh giá của Meta đã xem xét các rủi ro tiềm tàng mỗi khi ra mắt các tính năng mới trên Instagram, WhatsApp, và Facebook, đánh giá các mối lo ngại như các mối đe dọa đến quyền riêng tư của người dùng, tác hại đến trẻ vị thành niên hoặc sự lan truyền nội dung gây hiểu lầm hoặc độc hại. Các cuộc đánh giá về quyền riêng tư và tính toàn vẹn này chủ yếu do các nhân viên thực hiện. Tuy nhiên, các tài liệu nội bộ có được bởi NPR cho thấy Meta dự định sẽ tự động hoá tới 90% các đánh giá rủi ro này trong thời gian tới. Điều này có nghĩa là các cập nhật thuật toán quan trọng, tính năng an toàn mới và các thay đổi trong chia sẻ nội dung sẽ phần lớn được AI phê duyệt mà không cần đến sự xem xét của nhân viên như thường lệ, nơi mà các phản hồi không lường trước được hoặc việc sử dụng sai có thể bị bỏ qua. Trong nội bộ Meta, sự chuyển đổi này được xem là có lợi cho các nhà phát triển sản phẩm vì giúp đẩy nhanh quá trình phát hành các bản cập nhật và tính năng. Tuy nhiên, các nhân viên cũ và mới lo ngại rằng việc tự động hoá có thể dẫn đến những phán đoán không đủ chính xác về rủi ro, từ đó có thể gây ra những hậu quả thực tế. Một cựu giám đốc của Meta bày tỏ lo ngại rằng việc ra mắt nhanh hơn với ít sự kiểm tra kỹ lưỡng hơn sẽ làm tăng khả năng xảy ra các kết quả tiêu cực, vì ít vấn đề hơn có thể được phát hiện trước đó. Meta cho biết đã đầu tư hàng tỷ đô la để bảo vệ quyền riêng tư của người dùng và rằng các thay đổi trong quy trình đánh giá rủi ro mới nhằm đơn giản hóa quá trình ra quyết định trong khi vẫn giữ lại chuyên môn của con người đối với các vấn đề mới hoặc phức tạp. Công ty tuyên bố chỉ những quyết định “ít rủi ro” sẽ được tự động hoá. Tuy nhiên, các tài liệu nội bộ cho thấy hệ thống tự động có thể mở rộng tới các lĩnh vực nhạy cảm như an toàn AI, rủi ro đối với giới trẻ, và tính toàn vẹn của nền tảng, bao gồm cả nội dung bạo lực và thông tin sai lệch. Quy trình mới gồm các nhóm sản phẩm điền vào một bảng câu hỏi để nhận phản hồi “quyết định tức thì” từ AI, trong đó nêu rõ các rủi ro và các biện pháp giảm thiểu cần thiết. Trước đây, các nhà đánh giá rủi ro phải duyệt các cập nhật sản phẩm trước khi ra mắt; nay, các kỹ sư chủ yếu tự đánh giá rủi ro trừ khi họ yêu cầu xem xét của con người đặc biệt. Sự thay đổi này trao quyền cho kỹ sư và nhóm phát triển sản phẩm—những người thường không phải là chuyên gia về quyền riêng tư—để tự đưa ra quyết định, điều này khiến nhiều người lo ngại về chất lượng của các đánh giá.

Zvika Krieger, cựu giám đốc về đổi mới có trách nhiệm của Meta, cảnh báo rằng các nhóm sản phẩm chủ yếu được đánh giá dựa trên tốc độ ra mắt chứ không phải an toàn, và việc tự đánh giá có thể trở thành chỉ việc điền vào các ô trong biểu mẫu mà bỏ qua các vấn đề quan trọng. Ông thừa nhận có thể có sự tự động hóa nhưng cảnh báo rằng quá phụ thuộc vào AI có thể làm giảm chất lượng của các cuộc đánh giá. Meta đã giảm thiểu những lo ngại này, cho biết họ thực hiện các cuộc kiểm tra AI cho các dự án mà không có sự xem xét của con người. Các hoạt động tại Châu Âu, chịu các quy định nghiêm ngặt như Quy định về dịch vụ số (Digital Services Act), sẽ duy trì sự giám sát của con người tại trụ sở chính ở Ireland. Một số thay đổi đồng thời với việc Meta chấm dứt chương trình kiểm tra Fact-checking và nới lỏng các chính sách về bài viết thù địch, báo hiệu một xu hướng thay đổi toàn diện trong công ty nhằm đẩy nhanh các cập nhật và giảm bớt hạn chế về nội dung—một sự nới lỏng các giới hạn đã tồn tại nhằm ngăn chặn sự lợi dụng nền tảng. Chiến lược này theo sau nỗ lực của CEO Mark Zuckerberg nhằm phù hợp hơn với các nhân vật chính trị như cựu Tổng thống Trump, người mà Zuckerberg mô tả là “đỉnh điểm về văn hóa. ” Việc đẩy mạnh tự động hóa còn liên quan đến chiến lược kéo dài nhiều năm của Meta trong việc sử dụng AI để thúc đẩy nhanh hoạt động, cạnh tranh với TikTok, OpenAI và các đối thủ khác. Gần đây, Meta tăng cường dựa vào AI để thực thi kiểm duyệt nội dung, sử dụng các mô hình ngôn ngữ vượt trội hơn con người trong các lĩnh vực về chính sách nhất định. Điều này cho phép các nhân viên kiểm duyệt tập trung vào các trường hợp phức tạp hơn. Katie Harbath, một cựu chuyên gia về chính sách công của Facebook, ủng hộ việc sử dụng AI để nâng cao tốc độ và hiệu quả nhưng nhấn mạnh rằng vẫn cần có sự kiểm tra của con người. Ngược lại, một cựu nhân viên khác của Meta đặt câu hỏi về việc liệu việc rút ngắn thời gian đánh giá rủi ro có phải là một ý tưởng khôn ngoan, vì các sản phẩm mới thường phải chịu kiểm duyệt gắt gao và thường phát hiện ra những vấn đề bị bỏ sót. Michel Protti, trưởng bộ phận quyền riêng tư trong lĩnh vực sản phẩm của Meta, mô tả các thay đổi này là cách trao quyền cho các nhóm sản phẩm và làm đơn giản quản lý rủi ro trong việc đưa ra quyết định. Việc tự động hoá đã diễn ra nhanh chóng trong suốt tháng 4 và tháng 5 năm 2024. Tuy nhiên, một số người trong nội bộ chỉ trích cách mô tả này, nhấn mạnh rằng việc loại bỏ con người khỏi quá trình đánh giá rủi ro làm suy yếu góc nhìn quan trọng của con người về những nguy hiểm tiềm tàng, gọi đây là “hành động thiếu trách nhiệm” trái với sứ mệnh của Meta. Tổng thể, Meta đang chuyển từ phương thức đánh giá rủi ro do con người dẫn dắt sang chủ yếu dựa vào AI để kiểm tra các thay đổi nền tảng, nhằm thúc đẩy đổi mới nhanh chóng hơn, nhưng cũng đặt ra những lo ngại nghiêm trọng về việc bỏ qua sự kiểm soát chặt chẽ, có thể gây hại và khả năng AI xử lý các vấn đề đạo đức và an toàn phức tạp.