Meta, công ty mẹ của Facebook và Instagram, một lần nữa bị đặt dưới sự giám sát về cách xử lý nội dung do AI tạo ra trên các nền tảng của mình. Hội đồng Giám sát độc lập của công ty đã mạnh mẽ đề nghị Meta xây dựng một chính sách toàn diện, dành riêng để xử lý các nội dung liên quan đến AI. Điều này xảy ra sau một vụ việc lớn khi một video giả mạo do AI tạo ra, mô tả các tòa nhà bị hư hại ở Haifa trong một cuộc xung đột dự kiến giữa Israel và Iran vào năm 2025, lan truyền nhanh chóng và gây hiểu lầm cho người xem. Video đã thu hút hơn 700. 000 lượt xem trước khi Hội đồng Giám sát can thiệp. Hội đồng chỉ trích Meta vì không áp dụng một nhãn cảnh báo rõ ràng, nổi bật để cảnh báo người dùng về tính giả mạo của video, điều này có thể đã giúp người xem nhận biết nội dung này là sai lệch. Ngoài ra, Meta còn thiếu các biện pháp hạn chế hoặc gỡ bỏ nội dung gây hiểu lầm một cách phù hợp, mặc dù người dùng đã báo cáo và nhận diện được tính sai lệch của nó. Quyết định chính thức của Hội đồng Giám sát nhấn mạnh các lỗ hổng lớn trong các chính sách về nội dung AI hiện tại của Meta và nhấn mạnh rằng vụ việc này phản ánh một thách thức toàn cầu: tốc độ lan truyền của các phương tiện truyền thông do AI tạo ra mang tính lừa đảo, có thể đánh lừa hàng triệu người và gây bất ổn xã hội. Công nghệ AI ngày càng phát triển cho phép tạo ra những hình ảnh và video cực kỳ chân thực nhưng hoàn toàn giả mạo, đặt ra mối đe dọa nghiêm trọng đối với tính toàn vẹn của thông tin trên mạng xã hội, nơi hình ảnh thường ảnh hưởng đến dư luận một cách nhanh chóng và rộng rãi. Là một trong những nền tảng lớn nhất toàn cầu, Meta đóng vai trò quan trọng trong việc truyền đạt thông tin và có trách nhiệm lớn trong việc cảnh báo, dán nhãn hoặc loại bỏ các nội dung do AI tạo ra để hạn chế thông tin sai lệch. Vụ việc này cho thấy các biện pháp hiện tại còn hạn chế, nhấn mạnh sự cần thiết cấp bách phải cập nhật các quy trình và công cụ phù hợp với các thách thức đặc thù của AI.

Hội đồng Giám sát đề xuất Meta xây dựng một khung chính sách dành riêng, rõ ràng định nghĩa nội dung do AI tạo ra và quy định các hành động cần thực hiện khi phát hiện. Chính sách này nên bắt buộc công khai hoặc dán nhãn cảnh báo, tăng cường quản lý nội dung, nâng cao công nghệ phát hiện và duy trì truyền thông minh bạch về các rủi ro thao túng bằng AI. Việc xây dựng và thực thi chính sách này là điều thiết yếu không chỉ để duy trì niềm tin của người dùng mà còn để đối phó với các vấn đề sai lệch thông tin quy mô lớn trong xã hội. Nội dung giả mạo do AI tạo ra có thể làm căng thẳng thêm các mâu thuẫn địa chính trị, thúc đẩy các chiến dịch thông tin sai lệch và làm suy yếu quá trình dân chủ bằng cách phát tán các câu chuyện sai lệch có vẻ đáng tin cậy. Trước tình hình đó, Meta đã thừa nhận các thách thức này và cho biết kế hoạch xem xét và có thể điều chỉnh lại các chính sách nội dung để xử lý tốt hơn các phương tiện truyền thông do AI tạo ra và tăng cường các biện pháp phòng chống thông tin sai lệch. Vụ việc video ở Haifa là một nghiên cứu điển hình cho thấy mức độ nhanh chóng của sự lan truyền thông tin sai lệch do AI gây ra trên mạng. Nó nhấn mạnh sự cần thiết của các công ty mạng xã hội phải luôn cảnh giác và không ngừng cập nhật các chính sách cũng như công nghệ của họ trước các mối đe dọa số ngày càng tinh vi. Khi vai trò của AI trong sáng tạo nội dung ngày càng mở rộng, các nền tảng như Meta có trách nhiệm ngày càng lớn trong việc quản lý và giảm thiểu các rủi ro liên quan. Phát triển và thực thi các chính sách rõ ràng, hiệu quả về nội dung do AI tạo ra là bước quan trọng để bảo vệ độ chính xác và độ tin cậy của thông tin trên mạng xã hội cũng như bảo vệ cộng đồng khỏi sự lừa đảo trong kỷ nguyên số.