Video yang dibuat dengan aplikasi Sora dari OpenAI dengan cepat mendominasi platform seperti TikTok dan Instagram Reels, membuat konten buatan AI yang sintetis hampir tak terhindarkan—sesuatu yang semakin membuat frustrasi banyak pengguna. Namun, para ahli keamanan digital memperingatkan dampak yang lebih dalam dan tidak begitu tampak: OpenAI secara efektif telah mengubah deepfakes menjadi tren yang ceria dan mainstream, yang dengan antusias dipromosikan oleh algoritma rekomendasi. Saat jutaan orang berhadapan dengan video-video ini, persepsi tentang kebenaran dan norma daring turut dibentuk ulang. Daisy Soderberg-Rivkin, mantan manajer kepercayaan dan keamanan di TikTok, menggambarkan ini sebagai deepfakes yang mendapatkan “publicist dan kesepakatan distribusi, ” memperkuat teknologi yang sudah mengkhawatirkan ini ke platform yang baru dan besar. Aaron Rodericks, kepala kepercayaan dan keamanan di Bluesky, memperingatkan bahwa masyarakat belum siap menghadapi garis kabur antara kenyataan dan fabrikasi. Ia menyoroti risiko seperti bukti palsu yang dengan mudah dibuat untuk menyerang kelompok identitas atau individu, serta penipuan besar-besaran, dimana mayoritas pengguna tidak memiliki literasi media atau alat untuk membedakan mana yang asli dan mana yang palsu. Tiga mantan pegawai OpenAI mengatakan kepada NPR bahwa mereka tidak terkejut dengan peluncuran Sora, karena menganggapnya sebagai langkah strategis untuk memamerkan teknologi video baru di tengah tekanan dari investor yang mengingatkan pada debut ChatGPT. OpenAI menerapkan beberapa penjaga keamanan—termasuk moderasi, larangan terhadap penipuan, kekerasan, dan pornografi, penandaan air, serta kontrol atas penggunaan kemiripan—meskipun pengguna sering menemukan cara untuk mengelak dari perlindungan ini, memicu respons perusahaan yang berkelanjutan. Seorang mantan pegawai OpenAI anonim menyatakan kekhawatiran bahwa seiring meningkatnya persaingan dalam video buatan AI untuk media sosial, aturan keamanan bisa melemah, yang berpotensi merugikan masyarakat. Soderberg-Rivkin memperkirakan bahwa aplikasi seperti Sora yang tidak diatur dan tanpa langkah pengamanan akan bermunculan—serupa dengan chatbot Grok milik Elon Musk—dan kemungkinan akan disalahgunakan untuk menciptakan konten sintetis yang berbahaya seperti materi pelecehan seksual anak-anak, atau propaganda realistis yang didukung negara. Saat ini, Sora adalah aplikasi teratas di iPhone namun masih undangan khusus.

Pengguna mencatat semakin banyak pembatasan: impersonasi selebriti dan fakes ekstrem (misalnya video palsu Jeffrey Epstein atau pernyataan penjara dari Sean “Diddy” Combs) menjadi lebih sulit dibuat, meskipun konten kontroversial seperti penggerebekan atau seragam Nazi masih menghasilkan video. CEO OpenAI, Sam Altman, mengumumkan rencana untuk mengubah penggunaan kemiripan dari “opt-out” menjadi “opt-in” dan akhirnya berbagi pendapatan dengan pemegang hak, menandakan pendekatan yang berkembang pesat yang mirip dengan masa-masa awal ChatGPT. Banjir konten buatan AI ini menimbulkan pertanyaan tentang kelelahan pengguna dan apakah platform akan menindak atau melarang konten semacam itu. Soderberg-Rivkin percaya bahwa larangan kecil kemungkinannya dan akan tidak efektif karena kesulitan dalam mendeteksi konten AI di semua media—teks, gambar, dan video. Ia memperingatkan bahwa kebijakan “tidak AI” tidak akan mampu menghentikan infiltrasi AI ke dunia maya. Seorang mantan pegawai OpenAI lainnya berpendapat bahwa meluncurkan aplikasi sosial deepfake adalah langkah bisnis yang cerdas, meskipun dunia semakin merosot dari kenyataan, karena tidak dapat dihindari ada yang akan mendominasi pasar ini. Sementara itu, Meta dan Google telah meluncurkan alat video AI bersaing (Vibes dan Veo 3), tetapi rilis Sora benar-benar mempercepat proliferasi konten video AI yang dipersonalisasi. Para ahli kepercayaan dan keamanan melihat Sora sebagai titik balik sejarah di mana deepfakes beralih dari bahan langka menjadi bagian sehari-hari dari konten digital, yang berpotensi menyebabkan disengagement dari media sosial atau kolapsnya kepercayaan terhadap integritas media daring. Pakar disinformasi telah lama memperingatkan tentang “dividen pembohong”—di mana banyaknya deepfakes memungkinkan konten asli diabaikan sebagai palsu—tetapi realitas fenomena ini kini menjadi semakin mendesak.