Vào tháng 9 năm 2025, OpenAI ra mắt ứng dụng Sora, một nền tảng đột phá cho phép người dùng tạo ra các video có hình dạng giống hệt người thật hoặc người khác bằng công nghệ AI tiên tiến. Sự đổi mới này mở ra nhiều cơ hội mới trong lĩnh vực giải trí, giáo dục, marketing và mạng xã hội. Tuy nhiên, dù có nhiều tiềm năng, các phát triển gần đây đã gây ra lo ngại lớn về an ninh và đạo đức liên quan đến phương tiện media do AI tạo ra. Ngay sau khi Sora ra mắt, công ty Reality Defender, chuyên về phát hiện các deepfake và media chỉnh sửa, đã tiết lộ rằng các biện pháp an ninh của ứng dụng, nhằm ngăn chặn việc lợi dụng quay hình công khai, có thể bị vượt qua trong vòng 24 giờ. Bằng cách sử dụng các video công khai của các nhân vật nổi tiếng, Reality Defender đã tạo ra các video deepfake thuyết phục, qua mặt các hệ thống xác thực của OpenAI. Điều này cho thấy cách thức xác thực hiện tại dễ dàng bị vượt mặt bởi các đối tượng xấu quyết tâm. Với lượng lớn nội dung công khai trên mạng, việc tạo ra các video chân thực nhưng giả mạo ngày càng trở nên dễ dàng hơn, làm dấy lên lo ngại về việc lan truyền thông tin sai lệch, thao túng dư luận và giảm niềm tin vào phương tiện truyền thông số. Các chuyên gia về AI, an ninh mạng, và đạo đức số đã bày tỏ mối lo ngại nghiêm trọng. Tiến sĩ Elaine Thompson, một nhà đạo đức AI hàng đầu, nhấn mạnh rằng mặc dù các công nghệ như Sora rất ấn tượng, chúng đi kèm với những trách nhiệm mới; các công cụ phát hiện mạnh mẽ và các nguyên tắc đạo đức rõ ràng là cần thiết để ngăn chặn việc lạm dụng vượt quá lợi ích. Những nhà chuyên môn trong ngành nhấn mạnh rằng khi công nghệ deepfake phát triển nhanh chóng, các chiến lược phát hiện và giảm thiểu cũng cần phải tiến bộ tương đương.

Họ đề xuất hợp tác giữa các nhà phát triển AI, chuyên gia an ninh, các nhà hoạch định chính sách, và xã hội dân sự để thiết lập các tiêu chuẩn đảm bảo việc sử dụng các công nghệ như Sora một cách có trách nhiệm. Để đối phó với những phát hiện này, OpenAI cam kết tăng cường an ninh của Sora bằng cách tìm hiểu các phương pháp xác thực tiên tiến như xác thực đa yếu tố, watermark kỹ thuật số trong nội dung tạo ra, và phân tích hành vi nhằm phân biệt rõ hơn giữa video thật và giả mạo. Cũng có sự đồng thuận ngày càng tăng về việc cần thiết lập các quy định quốc gia và quốc tế. Các nhà hoạch định chính sách được khuyến nghị xây dựng các quy tắc rõ ràng về việc tạo ra, phân phối, và gắn nhãn các phương tiện media do AI tạo ra, quy định trách nhiệm pháp lý khi có sử dụng sai, và đảm bảo minh bạch để bảo vệ quyền lợi cá nhân và lợi ích cộng đồng. Thách thức từ media do AI tạo ra còn mở rộng tới lĩnh vực xã hội và triết học. Việc dễ dàng sản xuất các bản giả mạo thuyết phục thách thức các khái niệm về bằng chứng và tính xác thực truyền thống, thúc đẩy các cuộc vận động nâng cao khả năng hiểu biết về truyền thông và nhận thức xã hội để giúp cá nhân đánh giá một cách phê phán các nội dung kỹ thuật số. Các chương trình giáo dục đang được phát triển nhằm dạy cho học sinh về những rủi ro của nội dung do AI tạo ra và cách nhận biết các nguồn đáng tin cậy, hướng tới xây dựng một cộng đồng thông thái hơn, đủ khả năng thích ứng với những thay đổi công nghệ nhanh chóng. Các hợp tác giữa các công ty công nghệ và các tổ chức xác minh thông tin cũng đóng vai trò then chốt. Bằng cách tạo ra các cơ sở dữ liệu chia sẻ về nội dung đã được xác thực và sử dụng các công cụ tự động để phát hiện các tài liệu đáng ngờ, hệ sinh thái truyền thông số có thể nâng cao khả năng chống lại việc thao túng. Tóm lại, ứng dụng Sora của OpenAI đại diện cho một bước đột phá lớn trong lĩnh vực nội dung do AI tạo ra, mang đến nhiều khả năng thú vị cùng với những thử thách đáng kể. Việc Reality Defender nhanh chóng vượt qua các hệ thống bảo vệ của Sora cho thấy rõ nhu cầu cấp bách về việc tăng cường an ninh, xây dựng khung đạo đức và quy định phù hợp. Giải quyết các vấn đề phức tạp này đòi hỏi sự hợp tác giữa các bên liên quan đa dạng nhằm cân bằng giữa đổi mới sáng tạo và trách nhiệm, đảm bảo rằng các tiến bộ trong media AI không gây ảnh hưởng tiêu cực đến niềm tin và tính toàn vẹn trong thế giới kỹ thuật số của chúng ta.