Video yang dibuat dengan aplikasi Sora dari OpenAI sedang dengan pesat memenuhi platform seperti TikTok dan Instagram Reels, menjadikan kandungan hasil AI sintetik hampir tidak dapat dielakkan—sesuatu yang semakin menyebabkan pengguna kecewa. Walau bagaimanapun, pakar keselamatan digital memberi amaran tentang impak yang lebih mendalam dan kurang ketara: OpenAI secara efektif telah mengubah nama deepfakes kepada trend yang menyeronokkan dan arus perdana, yang dipromosikan dengan bersungguh-sungguh oleh algoritma cadangan. Ketika berjuta-juta berinteraksi dengan video ini, persepsi tentang kebenaran dan norma dalam talian sedang dibentuk semula. Daisy Soderberg-Rivkin, bekas pengurus keselamatan dan kepercayaan TikTok, menggambarkan situasi ini sebagai deepfakes memperoleh “publicist dan perjanjian pengedaran, ” yang memperluaskan teknologi yang semakin membimbangkan ini ke platform baharu yang luas. Aaron Rodericks, ketua keselamatan dan kepercayaan di Bluesky, memberi amaran bahawa masyarakat belum bersedia untuk kaburnya garis antara realiti dan rekaan. Beliau menyorot risiko seperti bukti palsu yang mudah dibuat untuk menargetkan kumpulan identiti atau individu, serta penipuan berskala besar, di mana kebanyakan pengguna kekurangan literasi media atau alat untuk membezakan kebenaran daripada fiksyen. Tiga bekas pekerja OpenAI memberitahu NPR bahawa mereka tidak terkejut dengan pelancaran Sora, melihatnya sebagai langkah strategik untuk mempamerkan teknologi video baharu di tengah tekanan pelabur yang mengingatkan era peluncuran ChatGPT. OpenAI telah melaksanakan beberapa langkah keselamatan—termasuk pengawalan, larangan terhadap penipuan, keganasan, dan pornografi, watermarking, serta kawalan terhadap penggunaan kemiripan—meskipun pengguna sering mencari jalan mengelak perlindungan ini, yang menyebabkan syarikat sentiasa memberi maklum balas. Seorang bekas pekerja OpenAI yang tidak mahu dikenali melahirkan kebimbangan bahawa apabila persaingan dalam video AI semakin sengit, peraturan keselamatan mungkin dilonggarkan, berpotensi membahayakan masyarakat. Soderberg-Rivkin meramalkan bahawa aplikasi tanpa kawalan seperti Sora akan muncul—serupa dengan chatbot Grok Elon Musk—dan berkemungkinan dieksploitasi untuk mencipta kandungan sintetik berbahaya seperti bahan penderaan seksual kanak-kanak atau propaganda yang realistik yang disokong oleh negara. Pada masa ini, Sora ialah aplikasi utama di iPhone tetapi masih berdasarkan jemputan.

Pengguna melaporkan sekatan yang semakin ketat: peniruan selebriti dan palsu ekstrem (contohnya video Jeffrey Epstein palsu atau kenyataan penjara Sean “Diddy” Combs) menjadi lebih sukar untuk dihasilkan, walaupun kandungan kontroversi seperti penahanan atau pakaian Nazi masih menghasilkan video. Ketua Pegawai Eksekutif OpenAI, Sam Altman, mengumumkan rancangan untuk menukar penggunaan kemiripan dari “pilihan untuk keluar” kepada “pilihan untuk masuk” dan akhirnya berkongsi hasil pendapatan dengan pemilik hak, menandakan pendekatan yang pantas berubah seperti era awal ChatGPT. Banjir kandungan hasil AI menimbulkan persoalan tentang keletihan pengguna dan sama ada platform akan mengambil tindakan keras atau mengharamkan kandungan sebegini. Soderberg-Rivkin percaya larangan tidak mungkin dilakukan dan juga tidak berkesan, memandangkan semakin sukar untuk mengesan kandungan AI merentas teks, gambar, dan video. Beliau memberi amaran bahawa polisi “tiada AI” tidak mampu menghentikan infiltrasi AI dalam dunia dalam talian. Seorang lagi bekas pekerja OpenAI berhujah bahawa melancarkan aplikasi sosial deepfake adalah langkah perniagaan yang bijak walaupun hakikatnya peningkatan realiti semakin merosot, menyatakan bahawa adalah tidak dapat dielakkan ada yang akan menguasai pasaran ini. Sementara itu, Meta dan Google telah memperkenalkan alat video AI yang bersaing (Vibes dan Veo 3), tetapi pelancaran Sora benar-benar mempercepatkan pengembangan kandungan video AI yang diperibadikan. Pakar keselamatan dan kepercayaan melihat Sora sebagai titik perubahan bersejarah di mana deepfakes beralih dari keunikan jarang menjadi kandungan digital harian, yang berpotensi menyebabkan pengurangan penggunaan media sosial atau keruntuhan kepercayaan terhadap integriti media dalam talian. Pakar maklumat palsu telah lama memberi amaran tentang “dividen pembohong”—di mana banyak deepfakes membolehkan kandungan asli diabaikan sebagai palsu—tetapi kenyataan fenomena ini kini lebih mendesak daripada sebelumnya.