Meta, trước đây gọi là Facebook, đã công bố một kế hoạch mở rộng lớn hệ thống kiểm duyệt nội dung dựa trên AI nhằm tăng cường hiệu quả và độ chính xác trên các nền tảng như Facebook, Instagram và WhatsApp. Bằng việc sử dụng các công nghệ AI tiên tiến, Meta hướng tới việc nhận diện và xử lý tốt hơn các nội dung độc hại, góp phần xây dựng cộng đồng trực tuyến an toàn hơn cho hàng triệu người trên toàn thế giới. Truyền thống, các nhân viên kiểm duyệt con người đã đảm nhận các nhiệm vụ như phát hiện các trò lừa đảo, nội dung phản cảm và vi phạm chính sách bằng cách xem xét các nội dung báo cáo. Tuy nhiên, khối lượng nội dung hàng ngày quá lớn đòi hỏi các giải pháp mở rộng, nhanh hơn. Các công cụ AI mở rộng này sẽ tự động phát hiện và xử lý nội dung độc hại quy mô lớn, giảm sự phụ thuộc vào kiểm duyệt thủ công. Các hệ thống AI nâng cao này thực hiện đánh giá nội dung tinh vi hơn, phân biệt chính xác hơn các bài đăng độc hại và vô hại nhờ vào những tiến bộ trong học máy, xử lý ngôn ngữ tự nhiên và thị giác máy tính. Ví dụ, AI có thể nhận biết các trò lừa đảo tránh các bộ lọc truyền thống bằng cách nhận diện các mẫu và ngữ cảnh, đồng thời phát hiện tốt hơn các nội dung phản cảm để hạn chế hình ảnh bạo lực hoặc gây khó chịu. Bên cạnh công tác kiểm duyệt, Meta đã ra mắt trợ lý hỗ trợ Meta AI—một chatbot AI cung cấp hỗ trợ tự động 24/7 cho các vấn đề thường gặp liên quan đến tài khoản như khôi phục mật khẩu, cài đặt quyền riêng tư và an ninh, giúp nâng cao trải nghiệm người dùng bằng cách giảm thời gian chờ đợi sự trợ giúp của nhân viên. Khoản đầu tư của Meta phản ánh xu hướng chung trong ngành hướng tới tích hợp AI vào quản trị nền tảng.

Bằng cách kết hợp chuyên môn của con người với tự động hóa thông minh, công ty mong muốn duy trì tiêu chuẩn nội dung cao và hạn chế sự lan truyền của các nội dung độc hại. Các hệ thống AI được cập nhật liên tục dựa trên nghiên cứu mới và phản hồi từ người dùng để đối phó với các thách thức mới và các mối đe dọa ngày càng phát sinh trực tuyến. Với tiêu chí minh bạch và trách nhiệm, Meta cam kết công bố các báo cáo chi tiết về hiệu suất và tác động của AI, đồng thời tiến hành kiểm toán của bên thứ ba để đảm bảo công bằng và chính xác. Các nhân viên kiểm duyệt thủ công vẫn giữ vai trò quan trọng trong việc xử lý các trường hợp phức tạp và các kháng nghị, cân đối giữa tự động hóa và kiểm duyệt thủ công. Việc mở rộng AI diễn ra trong bối cảnh ngày càng có nhiều áp lực đòi hỏi các nền tảng phải chống lại tin giả, gian lận và nội dung độc hại. Bằng cách kết hợp công nghệ AI tiên tiến với sự kiểm soát của con người, Meta nỗ lực bảo vệ người dùng và thúc đẩy môi trường trực tuyến an toàn, tích cực hơn. Tóm lại, thông báo của Meta đại diện cho một bước tiến quan trọng trong công tác kiểm duyệt nội dung—mở rộng AI để nâng cao hiệu quả hoạt động và thực thi tiêu chuẩn cộng đồng một cách đáng tin cậy hơn. Trợ lý hỗ trợ Meta AI bổ sung thêm phần này bằng cách cung cấp hỗ trợ tức thì cho người dùng, nhấn mạnh cam kết của công ty trong việc tích hợp AI nhằm cải thiện an toàn và dịch vụ.