Duyệt qua ứng dụng Sora giống như bước vào một đa vũ trụ siêu thực, nơi đầy ắp những video ngắn kỳ quặc và siêu thực: Michael Jackson biểu diễn hài hước, sinh vật ngoài hành tinh Predator đảo bánh, hươu xổng qua cửa kính, và Nữ hoàng Elizabeth nhảy khỏi bàn quán rượu. Được phát hành bởi OpenAI, nhà sáng tạo của ChatGPT, Sora tạo ra các đoạn clip hoàn toàn do AI chế tác, gây mê hoặc người xem nhưng cũng buộc họ liên tục đặt câu hỏi về tính xác thực của những gì họ nhìn thấy. Sam Gregory, chuyên gia về deepfake và nhà vận động nhân quyền, cảnh báo rằng Sora làm gần như không thể phân biệt nội dung thật hay giả, tạo ra một “sương mù nghi hoặc” lan tỏa khắp các phương tiện truyền thông. Dù chỉ có các video do AI tạo ra, ứng dụng này nhanh chóng trở thành hiện tượng, vượt mốc một triệu lượt tải chỉ trong chưa đầy một tuần sau khi ra mắt vào ngày 30 tháng 9, đứng đầu trên App Store của Mỹ. Hiện tại, Sora chỉ có sẵn dành cho người dùng iOS tại Mỹ kèm mã mời. Để tạo video, người dùng quét khuôn mặt và ghi âm mẫu giọng nói, sau đó nhập các đoạn văn bản tùy chỉnh để tạo ra các clip siêu thực dài 10 giây với âm thanh và đối thoại đi kèm. Tính năng “Cameos” cho phép chồng mặt của người dùng hoặc bạn bè lên các video đã có sẵn. Mặc dù Sora dán watermark trên các video, nhiều trang web hiện nay đã loại bỏ các dấu này. Ban đầu, OpenAI cho phép tái tạo nội dung có bản quyền theo mặc định trừ khi chủ sở hữu chọn không, dẫn tới việc người dùng tạo ra các nội dung AI có hình các nhân vật từ “SpongeBob SquarePants, ” “South Park, ” “Breaking Bad, ” “The Price Is Right, ” và “Friends. ” Điều này dần mở ra việc tái tạo các nhân vật nổi tiếng quá cố như Tupac Shakur đi dạo trên đường phố Cuba, Hitler đối chất với Michael Jackson, và Martin Luther King Jr. phát biểu những bài diễn văn sửa đổi, yêu cầu phóng thích rapper Diddy. Zelda Williams, con gái của Robin Williams, lên án các video này là thiếu tôn trọng, thể hiện sự tức giận về việc khai thác nhân mạng và di sản nghệ thuật vì lượt thích trực tuyến. Các hình ảnh do AI tạo ra khác như Kobe Bryant, Stephen Hawking và Tổng thống Kennedy cũng lan truyền rộng rãi trên các nền tảng mạng xã hội. Gia đình của Fred Rogers bày tỏ sự thất vọng về các video gây hiểu lầm của Sora, trong đó xuất hiện Mister Rogers cầm súng hoặc tương tác với Tupac, trái ngược hoàn toàn với giá trị hướng về trẻ em của ông. Họ đã chính thức yêu cầu OpenAI chặn quyền sử dụng giọng nói và hình ảnh của ông trên nền tảng, mong muốn sự tôn trọng đối với danh tính cá nhân trong tương lai.

Tương tự, các hãng quyền lực trong Hollywood và các liên minh như SAG-AFTRA chỉ trích OpenAI vì đã sử dụng hình ảnh các diễn viên và nhân vật có bản quyền mà không trả thù lao xứng đáng. Ứng phó với các lo ngại về bản quyền, CEO của OpenAI, Sam Altman, tuyên bố sẽ trao cho các chủ sở hữu quyền kiểm soát nhiều hơn về cách các nhân vật của họ xuất hiện trong các video AI và mở rộng khả năng chia sẻ doanh thu. Các hãng phim giờ có thể “chọn tham gia” để cho phép sử dụng nhân vật — một sự đảo ngược của chính sách ban đầu là cho phép tự ý sử dụng trừ khi chủ sở hữu từ chối. Altman hình dung một tương lai nơi nội dung cá nhân hóa phát triển mạnh mẽ, tương tự như một vụ nổ sáng tạo, giống như “hểu ứng của fanfiction tương tác. ” Trong khi đó, các đại gia tài sản của các diễn viên đã khuất đang cố gắng bảo vệ hình ảnh của họ trước sự tiến bộ của AI. CMG Worldwide hợp tác với bộ phát hiện deepfake Loti AI để giám sát các tái tạo kỹ thuật số trái phép của 20 nhân vật nổi tiếng, trong đó có Burt Reynolds và Rosa Parks. Loti AI báo cáo tăng gấp 30 lần số lượt đăng ký kể từ khi Sora 2 ra mắt, khi người dùng tìm cách lấy lại quyền kiểm soát hình ảnh số, đã loại bỏ hàng nghìn ví dụ deepfake trái phép kể từ tháng 1. Sau các hình ảnh xúc phạm Martin Luther King Jr. , OpenAI đã tạm dừng việc tạo hình ảnh của ông theo yêu cầu từ gia đình quyền sở hữu, thừa nhận rằng trong giới hạn của tự do ngôn luận thì việc diễn tả các nhân vật công cộng có thể, nhưng quyền kiểm soát việc sử dụng hình ảnh của họ nên do chính các đại diện quyết định. Hiện tại, các gia đình có thể yêu cầu chặn hình ảnh của họ khỏi tính năng Cameo của Sora. Các áp lực pháp lý đã khiến Sora phải thắt chặt các quy định về nội dung có bản quyền, phát cảnh báo vi phạm đối với các phiên bản tái tạo như nhân vật Disney. Một số người dùng phản kháng bằng cách chế meme về các thông báo chính sách nội dung này. Trong khi đó, “đồ rác AI” – nội dung kỳ quặc, lan truyền chóng mặt như bà ngoại đuổi cá sấu hoặc “olympic béo phì” vui nhộn – thống trị lượt tương tác, với những người sáng tạo chuyên nghiệp biến nó thành một nguồn thu nhập đáng kể gọi là “Cocomelon cho người lớn. ” Các nhà phê bình cảnh báo rằng việc tùy tiện lấy hình ảnh của bất kỳ ai—không chỉ các người nổi tiếng—có thể gây nhầm lẫn, lan truyền thông tin sai lệch và làm suy yếu niềm tin chung. Hơn nữa, việc công nghệ này bị lạm dụng bởi các phần tử xấu và chính phủ cho các mục đích tuyên truyền cũng làm gia tăng những lo ngại này. Gregory lo sợ những đoạn phim phản đối giả mạo, các tội ác giả tạo hoặc các video chỉnh sửa đặt lời nói sai vào miệng người thật có thể gây tổn hại nghiêm trọng đến sự thật và trách nhiệm giải trình trong bối cảnh tràn lan các nội dung do AI tạo ra.