Videozapisi kreirani pomoću OpenAI-jeve Sora aplikacije brzo ispunjavaju platforme poput TikToka i Instagrama Reels, čineći sintetski, AI-generirani sadržaj gotovo neizbježnim—što mnogi korisnici sve više frustrira. Međutim, stručnjaci za digitalnu sigurnost upozoravaju na dublji, manje očit utjecaj: OpenAI je učinkovito preimenovao deepfakeove u igriv, mainstream trend, željno promoviran algoritmima za preporuke. Kako milijuni susreću ove videozapise, percepcija istine i online norme se preoblikuju. Daisy Soderberg-Rivkin, bivša menadžerica za povjerenje i sigurnost na TikToku, opisala je to kao da deepfakeovi dobivaju "publicista i distributivni dogovor", pojačavajući već zabrinjavajuću tehnologiju na novu, veliku platformu. Aaron Rodericks, voditelj povjerenja i sigurnosti u Blueskyju, upozorio je da društvo nije spremno za zamagljenu granicu između stvarnosti i lažnog. Istaknuo je rizike poput lako proizvedenih lažnih dokaza koji ciljaju određene skupine ili pojedince, te široko rasprostranjene prevare, pri čemu većina korisnika nema medijsku pismenost ili alate za razlikovanje istine od laži. Troje bivših zaposlenika OpenAI-a kazali su NPR-u da ih launch Sore nije iznenadio, smatrajući to strateškim potezom za prikazivanje nove videotehnologije usred pritiska investitora, sličnog debiju ChatGPT-a. OpenAI je uveo nekoliko sigurnosnih mjera—uključujući moderaciju, zabrane prevara, nasilja i pornografije, watermarking i kontrole korištenja izgleda—iako korisnici često nađu načine zaobići ove zaštite, što izaziva stalne reakcije tvrtke. Jedan anonimni bivši zaposlenik OpenAI-a izrazio je zabrinutost da će, kako se natjecanje u AI-izvedenim videima pojačava, sigurnosna pravila biti slabljenja, što bi moglo štetiti društvu. Soderberg-Rivkin predviđa da će se pojaviti nenošene, Sora-slične aplikacije bez sigurnosnih mjera—slično Elonovom Grok chatbotu—koje će vjerojatno biti iskorištene za stvaranje štetnog sintetskog sadržaja poput materijala za zlostavljanje djece ili propagande državnog podrijetla. Trenutno je Sora najpopularnija iPhone aplikacija, ali je još uvijek dostupna po pozivnici.

Korisnici primjećuju sve veća ograničenja: imitacije slavnih i ekstremni lažni sadržaj (npr. lažni videozapisi Jeffreyja Epsteina ili Sean “Diddy” Combs-ove izjave iz zatvora) postaju teži za kreiranje, iako kontroverzni sadržaji poput uhićenja ili nacističkih uniforme i dalje generiraju videozapise. Izvršni direktor OpenAI-a Sam Altman najavio je planove za prebacivanje korištenja izgleda iz “opt-out” modela na “opt-in” te na kraju podjelu prihoda s nositeljima autorskih prava, što signalizira brzo evoluciju pristupa, sličnu onoj u početnim danima ChatGPT-a. Val AI-generiranog sadržaja izaziva pitanja o umoru korisnika i hoće li platforme krenuti u strože kažnjavanje ili zabranu takvog materijala. Soderberg-Rivkin smatra da je zabrana malo vjerojatna i da bi bila neučinkovita, s obzirom na rastuće poteškoće u otkrivanju AI sadržaja u tekstu, slikama i videozapisima. Upozorila je da politika zabrane AI-a ne može spriječiti infiltraciju AI-ja na internetu. Bivši zaposlenik OpenAI-a također je smatrao da je pokretanje aplikacije za društvene deepfakeove dobar poslovni potez, unatoč pogoršanju stvarnosti, jer je bilo neizbježno da netko dominira na tom tržištu. U međuvremenu, Meta i Google predstavili su konkurentske alate za AI videa (Vibes i Veo 3), ali objava sore istinski je ubrzala širenje personaliziranog AI video sadržaja. Stručnjaci za povjerenje i sigurnost vide Soru kao povijesni prekretnicu, jer deepfakeovi prelaze od rijetkih noviteta do svakodnevnog digitalnog sadržaja, potencijalno vodeći do odustajanja od društvenih medija ili pada povjerenja u online media i njihovu vjerodostojnost. Stručnjaci za dezinformacije već dugo upozoravaju na “dividendu lažova”—gdje obilje deepfakeova omogućava da stvarni sadržaj bude odbacivan kao lažan—no stvarnost tog fenomena sada je važnija nego ikada.