Videa kreirana pomoću OpenAI-jevog Sora aplikacije brzo popunjavaju platforme poput TikToka i Instagram Reels, čineći sintetički sadržaj koji je generisan veštačkom inteligencijom gotovo neminovnim—što mnogi korisnici sve više smatraju frustrirajućim. Međutim, eksperti za digitalnu bezbednost upozoravaju na dublji, manje očigledan uticaj: OpenAI je praktično rebrendirao deepfake video snimke u neproblematičan, populistički trend, koji sa entuzijazmom promovišu algoritmi preporuka. Kako milioni susreću ove video snimke, percepcije istine i norme na internetu se preoblikuju. Daisy Soderberg-Rivkin, bivša menadžerka za poverenje i bezbednost na TikToku, opisala je situaciju tako što je deepfake postao " javni i distribucioni ugovor“, pojačavajući ovu već zabrinjavajuću tehnologiju na novu, široku platformu. Aaron Rodericks, šef za poverenje i bezbednost u Bluesky-ju, upozorio je da društvo nije spremno na izobličenje granice između realnosti i laži. Istakao je rizike poput lako fabrikovanih lažnih dokaza koji targetiraju grupe ili pojedince, kao i velike prevare, pri čemu većina korisnika nema medijsku pismenost ili alate za razlikovanje istine od fikcije. Troje bivših zaposlenih u OpenAI-ju rekli su NPR-u da ih Sora pokret nije iznenadio, smatrajući ga strateškim potezom za predstavljanje nove video tehnologije pod pritiskom investitora, što podseća na debut ChatGPT-a. OpenAI je implementirao nekoliko bezbednosnih mera—uključujući moderaciju, zabrane prevara, nasilja i pornografije, vodenotiske i kontrole nad korišćenjem lika, ali korisnici često pronalaze načine da zaobiđu ove zaštite, što izaziva stalne odgovore kompanije. Jedan anonimni bivši zaposleni u OpenAI-ju izrazio je zabrinutost da će, kako se konkurencija pojačava u sektoru AI-generisanog video sadržaja za društvene mreže, bezbednosne mere biti slabe, što bi moglo naškoditi društvu. Soderberg-Rivkin je predvidela da će se pojaviti neregulisane aplikacije slične Sorai—poput Elona Muska Grok chatbota—koje će verovatno biti iskorišćene za stvaranje štetnog sintetičkog sadržaja, poput materijala za seksualno zlostavljanje dece ili državom sponzorisanih realističnih propagandi. Trenutno je Sora najbolja aplikacija na iPhoneu, ali je dostupna samo pozivnicom.

Korisnici primjećuju sve veća ograničenja: imitacije poznatih ličnosti i ekstremni lažni sadržaji (npr. lažni video snimci Džefrija Epstajna ili saopštenja Seana “Diddyja” Comba iz zatvora) postaju teži za kreiranje, iako kontroverzni sadržaji poput hapšenja ili nacističkih uniformi i dalje izazivaju video snimke. CEO OpenAI-ja, Sam Altman, najavio je planove za prebacivanje korišćenja lika sa “opciono isključivanja” na “opciono uključivanje” i na kraju deljenje prihoda sa vlasnicima prava, što signalizira brzo evoluirajući pristup sličan ranim danima ChatGPT-a. Priliv AI-generisanog sadržaja pokreće pitanja o korisničkom zamoru i tome da li će platforme pooštriti ili zabraniti takve materijale. Soderberg-Rivkin veruje da je zabrana malo verovatna i da bi bila neefikasna, s obzirom na sve veće teškoće u detektovanju AI sadržaja na tekstu, slikama i video snimcima. Upozorila je da “politika bez AI” ne može zaustaviti infiltraciju AI tehnologije na internet. Još jedan bivši zaposlenik OpenAI-ja smatra da je lansiranje društvene aplikacije za deepfake-ove pametan poslovni potez, uprkos pogoršanju stvarnosti, jer je neminovno da neko dominira na ovom tržištu. U međuvremenu, Meta i Google su predstavili konkurentske alate za AI video sadržaj (Vibes i Veo 3), ali je izdavanje Sorai zaista ubrzalo razmah personalizovanog AI video sadržaja. Eksperti za poverenje i bezbednost vide Sora kao istorijski prelomni trenutak u kojem deepfake-ovi prelaze iz retkih noviteta u svakodnevni digitalni sadržaj, što može dovesti do odustajanja od društvenih mreža ili kolapsa poverenja u integritet internet medija. Stručnjaci za dezinformacije dugo upozoravaju na “dividend lažova”—situaciju u kojoj obilje deepfake snimaka omogućava da se stvarni sadržaj ignoriše kao lažan—ali je stvarnost ove pojave sada važnija nego ikada.