Vaizdo įrašai, sukurti naudojant OpenAI Sora programėlę, sparčiai užpildo platformas kaip TikTok ir Instagram Reels, daro sintetinį AI generuotą turinį beveik neišvengiamu – tai tapo ypač erzinančiu daugeliui vartotojų. Tačiau skaitmeninio saugumo ekspertai įspėja apie giluminį, mažiau akivaizdų poveikį: OpenAI efektyviai pertapė deepfakes į žaidybinę, pagrindinę tendenciją, entuziastingai remiamą rekomendacijų algoritmų. Susidūrę su šiais vaizdo įrašais milijonai žmonių keičia savo požiūrį į tiesą ir interneto normas. Daisy Soderberg-Rivkin, buvusi TikTok pasitikėjimo ir saugumo vadovė, apibūdino tai kaip tai, kad deepfakes įgavo „ viešininko ir platinimo sandorį“, stiprinant jau esamą pavojingą technologiją naujoje, didelėje platformoje. Aaron Rodericks, Bluesky pasitikėjimo ir saugumo vadovas, įspėjo, kad visuomenė nepasiruošusi susidoroti su tikrovės ir išlaviruojančios prasimanymo ribos susiliejimu. Jis pabrėžė tokias grėsmes kaip lengvai suklastojami būrimo įrodymai, nukreipti prieš tapatybės grupes ar asmenis, ir plataus masto sukčiavimai, kuriems dauguma vartotojų neturi media suvokimo ar įrankių atpažinti tiesą nuo pramanų. Trys buvę OpenAI darbuotojai NPR teigė, kad jų nesužavėjo Sora paleidimas, laikydami tai strateginiu žingsniu parodyti naują vaizdo technologiją, atsispiriant investuotojų spaudimui, primenančiu ChatGPT pasirodymo laikus. OpenAI įdiegė keletą saugumo priemonių – cenzūrą, draudimus sukčiavimams, smurtui ir pornografijai, vandens ženklo žymėjimą bei kontrolę dėl panašumo naudojimo – nors vartotojai dažnai randa būdų apeiti šias apsaugas, todėl kompanija nuolat ieško sprendimų. Vienas anoniminis buvęs OpenAI darbuotojas išreiškė susirūpinimą, kad, kylant konkurencijai AI sukurtų vaizdo socialiniuose tinkluose, saugumo taisyklės gali būti silpninamos, kas galėtų pakenkti visuomenei. Soderberg-Rivkin prognozavo, kad be reguliavimo, panašios kaip Sora programėlės be saugumo priemonių pasirodys – panašiai kaip Elon Musk sukurtas Grok pokalbių robotas – ir bus išnaudotos žalingam sintetiniai turiniui kurti, pavyzdžiui, vaikų seksualinės prievartos medžiagai ar valstybių remiamai realistiškai propagandai. Šiuo metu Sora yra populiariausias iPhone taikymas, tačiau jis dar tik kviečiamas naudotis.

Vartotojai pastebi didėjančias apribojimus: įtakingų asmenų įvaizdžio kopijos ir ekstremalios falsifikacijos (pvz. , netikri Jeffrey Epstein vaizdo įrašai arba Sean „Diddy“ Combs kalbos apie kalėjimą) tapo sunkiau sukurti, nors prieštaringi turiniai kaip suėmimai ar nacių uniformos vis dar generuoja vaizdo įrašus. OpenAI generalinis direktorius Sam Altman paskelbė planus pereiti nuo „pasirinkimo“ prie „pasirinkimo“ naudojimo ir galutinai dalintis autorinių teisių turėtojų pajamas, ženklinant irnuosius tapusį požiūrį, kuris primena ankstyvųjų ChatGPT laikus. AI generuoto turinio srautas kelia klausimus apie vartotojų nuovargį ir ar platformos imsis priemonių tokiam turiniui riboti ar jį uždrausti. Soderberg-Rivkin mano, kad draudimas yra mažai tikėtinas ir neefektyvus, nes vis sunkiau atpažinti AI sukurtą turinį tekstuose, nuotraukose ar vaizdo įrašuose. Ji įspėjo, kad „be AI“ politika negali sustabdyti AI įsiskverbimo į internetą. Kitas buvęs OpenAI darbuotojas teigė, kad deepfake socialinės programėlės paleidimas buvo geras verslo sprendimas, nepaisant to, kad blogėja tikrovės būsena, nes buvo neišvengiama, kad šį rinką šiandien dominuos kažkas. Tuo tarpu Meta ir Google pristatė konkurencinius AI vaizdo įrankius (Vibes ir Veo 3), tačiau Sora iš tikrųjų pagreitino personalizuoto AI vaizdo turinio plitimą. Pasitikėjimo ir saugumo ekspertai laiko Sora reikšmingu istoriniu posūkiu, kai deepfakes pereina iš retų naujovių į kasdienį skaitmeninį turinį, galimai sukuriantį socialinės medijos atstūmimą arba pasitikėjimo praradimą internete. Dezinformacijos specialistai ilgą laiką įspėja apie „ melagio dividendą“ – kai gausybė deepfake vaizdų leidžia atskirti tikrą turinį kaip netikrą, tačiau šis reiškinys dabar yra dar aktualesnis nei bet kada anksčiau.