Công Dân Công, một tổ chức giám sát nổi bật cam kết bảo vệ lợi ích cộng đồng, đã kêu gọi OpenAI ngay lập tức rút khỏi ứng dụng video dựa trên AI của họ, Sora 2, vì những rủi ro đáng kể do công nghệ deepfake gây ra. Nhóm này nhấn mạnh các mối đe dọa đối với nền dân chủ, quyền cá nhân và an toàn công cộng trong bối cảnh lo ngại gia tăng về các video do AI tạo ra, dụng ý thao túng thực tế và lan truyền thông tin sai lệch trên mạng xã hội. Theo Công Dân Công, việc OpenAI vội vàng ra mắt Sora 2 chủ yếu bị thúc đẩy bởi áp lực cạnh tranh trong lĩnh vực AI, dẫn đến việc thiếu các biện pháp an toàn cần thiết trước khi phát hành công khai. Hậu quả là, Sora 2 đã cho phép tạo ra và phát tán rộng rãi các video deepfake không có sự đồng ý của người trong cuộc, nhiều video chứa nội dung gây sốc, nhằm quấy rối phụ nữ và bịa đặt các sự kiện, gây tổn thương về mặt cảm xúc và uy tín. Ứng dụng này, cho phép người dùng tạo các clip video dựa trên AI, nhanh chóng trở nên phổ biến trên các nền tảng như TikTok và Instagram. Nội dung của nó có thể từ những hình ảnh kỳ quặc, phóng đại về các nhân vật nổi tiếng cho đến các tình huống chân thực nhưng gây hiểu lầm, có thể làm thay đổi nhận thức của công chúng. Công Dân Công nhấn mạnh rằng khả năng của công nghệ này tạo ra các đoạn phim thuyết phục nhưng sai lệch đặt ra những rủi ro nghiêm trọng, đặc biệt khi các video này lan truyền mà không có bối cảnh hoặc xác thực. Dù OpenAI đã cố gắng giải quyết một số mối lo ngại—chẳng hạn như chặn các hình ảnh phản ánh các nhân vật như Martin Luther King Jr. và hợp tác với các nhóm trong ngành như SAG-AFTRA—những người chỉ trích cho rằng những cố gắng này chỉ phản ứng theo kiểu đối phó hơn là chủ động.

Công Dân Công khẳng định rằng, OpenAI chủ yếu phản ứng với phản đối của công chúng thay vì thiết lập các kiểm soát đạo đức từ đầu. Đây không phải là lần đầu OpenAI vướng vào các tranh cãi liên quan đến tác hại của AI. Nền tảng ChatGPT của họ đã từng đối mặt với các vụ kiện cáo buộc gây tổn hại tâm lý, bỏ sót trách nhiệm và thiếu các biện pháp phòng ngừa lạm dụng phù hợp. Công Dân Công cảnh báo rằng việc phát hành các công cụ AI tạo sinh mà không có sự giám sát chặt chẽ sẽ làm trầm trọng thêm những vấn đề này, đe dọa đến sự tin tưởng vào truyền thông kỹ thuật số và các thể chế dân chủ. OpenAI đã đưa ra các phản hồi hạn chế trước công chúng về Sora 2, cho biết họ đang hợp tác với các nhà sáng tạo nội dung, các hãng phim và chủ sở hữu quyền để nâng cao các biện pháp bảo vệ và giảm thiểu rủi ro lạm dụng. Công ty cũng đang làm việc với các bên liên quan trong lĩnh vực sáng tạo của Nhật Bản, lo ngại về tác động của AI đối với quyền lực sáng tạo và sở hữu trí tuệ. Công Dân Công nhấn mạnh rằng việc triển khai nhanh chóng và không kiểm soát các ứng dụng AI tạo sinh như Sora 2 đã làm suy yếu quyền riêng tư, tính chính xác của thực tế và ổn định dân chủ. Yêu cầu gỡ bỏ ứng dụng của họ phản ánh mong muốn chung của việc ngành AI cần đặt lợi ích cộng đồng lên hàng đầu thay vì chỉ tập trung vào cạnh tranh thị trường. Họ kêu gọi các nhà hoạch định chính sách, nhà phát triển và xã hội dân sự hợp tác thiết lập các khuôn khổ đạo đức toàn diện để thúc đẩy sự phát triển và ứng dụng AI có trách nhiệm. Khi công nghệ AI tiếp tục tiến bộ và dần trở thành phần không thể thiếu trong xã hội, những cảnh báo của Công Dân Công nhấn mạnh các thách thức và trách nhiệm quan trọng liên quan đến việc khai thác các công cụ biến đổi này. Việc cân bằng giữa đổi mới và bảo vệ lợi ích cộng đồng vẫn là điều cốt yếu khi các phức tạp và hậu quả của nội dung do AI tạo ra ngày càng mở rộng.