Khi cảnh quan kỹ thuật số phát triển nhanh chóng, các công ty cạnh tranh quyết liệt để chiếm lĩnh thời đại mới của sáng tạo nội dung do trí tuệ nhân tạo (AI) sinh dữ liệu dẫn dắt. Những tổ chức này quảng bá các mô hình AI của họ như những nền tảng nghệ thuật sáng tạo đột phá, giúp người dùng thực hiện các dự án sáng tạo từ sản xuất điện ảnh đến những ý tưởng kỳ quặc hoặc phi truyền thống. Tuy nhiên, sự trỗi dậy của các công cụ AI sinh dữ liệu mang lại nhiều thách thức: ngoài việc thể hiện nghệ thuật chân thực, các tà đạo ác ý ngày càng lợi dụng các công nghệ này để đạt mục đích lừa đảo hoặc gây hại. Sự xuất hiện của những tác nhân xấu trong hệ sinh thái nội dung do AI tạo ra đã rõ ràng và đang gia tăng. Storyful, một cơ quan tin tức quốc tế hàng đầu chuyên xác minh nội dung do người dùng tạo ra, đã quan sát thấy sự gia tăng đáng kể các video do AI sinh ra trên các mạng xã hội. Sự tăng trưởng này phù hợp với các sự kiện toàn cầu lớn và các vụ virut thu hút sự chú ý rộng rãi. Cụ thể, kể từ khi xung đột gần đây giữa Hoa Kỳ, Israel và Iran bắt đầu, Storyful ghi nhận mức tăng 60 phần trăm trong các yêu cầu xác minh video được cho là liên quan đến các vụ tin tức nóng hổi này. Xu hướng này làm nổi bật tiềm năng ngày càng lớn của nội dung video do AI tạo ra ảnh hưởng đến nhận thức cộng đồng và cảnh quan thông tin trong thời gian khủng hoảng. Dù có những lo ngại này, vẫn có tin vui về thế hệ công cụ video AI hiện tại. Các nền tảng hàng đầu—Sora 2 của OpenAI sắp ngừng hoạt động, Veo 3. 1 của Google, và Seedance 2. 0 của ByteDance—đều cung cấp các khả năng tiên tiến vượt quá các mô hình trước đó nhưng vẫn còn những điểm yếu nội tại, tạo ra các cơ hội quan trọng cho việc phát hiện và xác minh. Nhận thức về những điểm yếu này là thiết yếu đối với các chuyên gia làm công tác xác minh nội dung, kiểm chứng thực tế và làm báo. Một bước tiến đáng kể của các công nghệ AI này là khả năng tạo ra video có độ chân thực cao hơn, đủ để lan truyền rộng rãi trên diện rộng.

Tiến bộ này làm giảm sự xuất hiện của các dấu hiệu đáng nghi truyền thống—như những cử động tay không tự nhiên, ánh sáng không nhất quán và các đặc điểm khuôn mặt bị biến dạng—hoặc ít nhất là cải thiện đáng kể. Do đó, các nhóm xác minh truyền thông cần áp dụng các phương pháp tỉ mỉ, tinh tế hơn, bao gồm phân tích từng khung hình để phát hiện những điểm bất thường nhỏ. Việc kiểm tra chi tiết như vậy liên quan đến việc tìm kiếm các điểm bất hợp lý về mặt thể chất trong video, các khác biệt trong các yếu tố chữ như biển hiệu hoặc chú thích, các vấn đề đồng bộ giữa âm thanh và hình ảnh, và đặc biệt là sự thiếu bằng chứng hỗ trợ như lời khai của nhân chứng hoặc các nguồn độc lập. Quá trình xác minh đa chiều này đóng vai trò then chốt trong việc chống lại thông tin sai lệch và duy trì tính chính xác của thông tin truyền tải đến công chúng. Điều quan trọng là phải tiếp cận các tiến bộ nhanh chóng của AI sinh dữ liệu với thái độ thận trọng và rõ ràng. Không phải mỗi phiên bản hoặc cập nhật công nghệ đều xứng đáng được hoan nghênh vô điều kiện hoặc bị phản đối dữ dội ngay lập tức. Thay vào đó, các bên liên quan cần bình tĩnh đánh giá khả năng và giới hạn thực tế của các công cụ này. Quan điểm cân bằng này là chìa khóa để trang bị cho các phòng tin tức và nhóm xác minh có thể điều hướng hiệu quả trong cảnh quan ngày càng phát triển này. Khi AI sinh dữ liệu dần trở thành một phần của hoạt động sáng tạo nội dung chính thống, các tổ chức truyền thông cần ưu tiên xây dựng các quy trình xác minh vững chắc, đầu tư vào đào tạo nhân viên, và thúc đẩy kỹ năng phần mềm truyền thông trong cộng đồng. Những bước này sẽ giúp giảm thiểu rủi ro về thông tin sai lệch do AI sinh ra và thúc đẩy việc sử dụng các công nghệ tiên tiến này một cách có trách nhiệm, đạo đức. Cuối cùng, thách thức không chỉ nằm ở việc tạo ra các công cụ AI chất lượng cao, mà còn trong việc xây dựng một hệ sinh thái nơi đổi mới công nghệ song hành cùng các tiêu chuẩn nghiêm ngặt về sự thật và trách nhiệm giải trình.