Các video được tạo ra với ứng dụng Sora của OpenAI đang ngày càng phổ biến nhanh chóng trên các nền tảng như TikTok và Instagram Reels, khiến nội dung tổng hợp do AI tạo gần như không thể tránh khỏi—một điều mà nhiều người dùng ngày càng cảm thấy khó chịu. Tuy nhiên, các chuyên gia về an toàn kỹ thuật số cảnh báo về một tác động sâu xa hơn, ít rõ ràng hơn: OpenAI đã biến deepfake thành một xu hướng vui nhộn, phổ biến, được thúc đẩy mạnh mẽ bởi các thuật toán đề xuất. Khi hàng triệu người tiếp xúc với các video này, nhận thức về sự thật và chuẩn mực trực tuyến đang bị định hình lại. Daisy Soderberg-Rivkin, cựu quản lý về tin cậy và an toàn của TikTok, mô tả rằng deepfake đang có được “một nhà báo và một bản hợp đồng phân phối, ” mở rộng công nghệ ngày càng đáng lo ngại này lên một nền tảng mới và rộng lớn. Aaron Rodericks, trưởng bộ phận tin cậy và an toàn tại Bluesky, cảnh báo rằng xã hội chưa chuẩn bị cho việc ranh giới giữa thực và giả đang bị mờ đi. Ông nhấn mạnh các rủi ro như bằng chứng giả dễ dàng tạo ra nhằm mục tiêu các nhóm người hoặc cá nhân, các vụ lừa đảo quy mô lớn, trong đó phần lớn người dùng thiếu khả năng hiểu biết về truyền thông hoặc các công cụ để phân biệt sự thật và giả. Ba cựu nhân viên của OpenAI nói với NPR rằng họ không ngạc nhiên khi Sora ra mắt, xem đó như một bước đi chiến lược để giới thiệu công nghệ video mới giữa áp lực từ các nhà đầu tư, giống như sự ra mắt của ChatGPT trước đó. OpenAI đã thực hiện một số biện pháp an toàn như kiểm duyệt, cấm lừa đảo, bạo lực và nội dung khiêu dâm, đóng dấu bản quyền hình ảnh và kiểm soát việc sử dụng hình ảnh, tuy nhiên người dùng thường tìm cách vượt qua những biện pháp bảo vệ này, dẫn đến các phản ứng liên tục từ công ty. Một cựu nhân viên ẩn danh của OpenAI bày tỏ lo ngại rằng khi cạnh tranh trong lĩnh vực video AI ngày càng gay gắt, các quy định an toàn có thể sẽ bị nới lỏng, gây hại cho xã hội. Soderberg-Rivkin dự đoán rằng các ứng dụng như Sora nhưng không có biện pháp an toàn sẽ xuất hiện—tương tự như chatbot Grok của Elon Musk—và có khả năng bị lợi dụng để tạo ra các nội dung tổng hợp độc hại như nội dung lạm dụng trẻ em hoặc tuyên truyền chính trị giả mạo, sát thực. Hiện tại, Sora là ứng dụng đứng đầu trên iPhone nhưng vẫn chỉ dành cho mời dùng.

Người dùng nhận thấy ngày càng tăng các hạn chế: các video giả mạo người nổi tiếng và các nội dung giả cực đoan (ví dụ như video giả về Jeffrey Epstein hoặc lời tuyên bố của Sean “Diddy” Combs trong tù) đã trở nên khó tạo hơn, dù các nội dung gây tranh cãi như cảnh bắt giữ hoặc đồng phục Nazi vẫn xuất hiện. Giám đốc điều hành OpenAI, Sam Altman, đã công bố kế hoạch chuyển đổi quyền sử dụng hình ảnh từ “từ chối” sang “chọn tham gia” và cuối cùng chia sẻ doanh thu với người sở hữu quyền, báo hiệu một cách tiếp cận nhanh chóng phát triển gần giống như thời kỳ đầu của ChatGPT. Làn sóng nội dung do AI tạo ra đặt ra câu hỏi về việc người dùng có thể sẽ mệt mỏi hoặc các nền tảng có quyết định cấm hoặc hạn chế loại nội dung này không. Soderberg-Rivkin cho rằng việc cấm hoàn toàn là khả năng thấp và sẽ không hiệu quả, vì ngày càng khó phát hiện nội dung AI trong tất cả các dạng: văn bản, hình ảnh và video. Bà cảnh báo rằng một chính sách “không AI” không thể ngăn chặn sự xâm nhập của AI trên mạng. Một cựu nhân viên khác của OpenAI cho biết rằng việc ra mắt một ứng dụng deepfake xã hội là một quyết định kinh doanh hợp lý bất chấp thực tế ngày càng bị bóp méo. Ông nhận định rằng việc ai đó thống trị thị trường này là điều không thể tránh khỏi. Trong khi đó, Meta và Google đã giới thiệu các công cụ video AI cạnh tranh (Vibes và Veo 3), nhưng việc ra mắt Sora thật sự đã thúc đẩy nhanh sự phổ biến của nội dung video AI cá nhân hóa. Các chuyên gia về tin cậy và an toàn coi Sora là một bước ngoặt lịch sử khi deepfake chuyển từ những điểm novelties hiếm có thành nội dung số phổ biến hàng ngày, có thể dẫn đến việc người dùng rời bỏ các mạng xã hội hoặc mất niềm tin vào tính toàn vẹn của nội dung trực tuyến. Các chuyên gia chống thông tin sai lệch đã cảnh báo từ lâu về “lợi tức kẻ nói dối”—khi số lượng deepfake dồi dào làm cho nội dung thực sự bị xem nhẹ như giả mạo—nhưng hiện nay, thực tế của hiện tượng này còn cấp thiết hơn bao giờ hết.