Video-t që krijohen me aplikacionin Sora nga OpenAI po shpejt po mbushin platformat si TikTok dhe Instagram Reels, duke bërë që përmbajtja sintetike e krijuar nga inteligjenca artificiale të jetë thuajse e pashmangshme—diçka që shumë përdorues e gjëjnë gjithnjë e më frustruese. Megjithatë, ekspertët e sigurisë dixhitale paralajmërojnë për një ndikim më të thellë, më pak të dukshëm: OpenAI e ka rimëkëmbur efektivisht deepfakes në një trend të pranueshëm, të luajshëm, të popullarizuar në mënyrë entuziastike nga algoritmet e rekomandimeve. Ndërsa miliona njerëz shikojnë këto video, perceptimet mbi të vërtetën dhe normat online po ri-formësohen. Daisy Soderberg-Rivkin, ish-menaxhere për besueshmërinë dhe sigurinë në TikTok, e përshkroi këtë si rritjen e deepfakes që fitojnë një “menaxher publikist dhe marrëveshje shpërndarje, ” duke rritur një teknologji të tashmë shqetësuese në një platformë të re dhe masive. Aaron Rodericks, kreu i besueshmërisë dhe sigurisë në Bluesky, paralajmëroi se shoqëria nuk është e përgatitur për shkrirjen e vijës midis realitetit dhe mashtrimit. Ai theksoi rreziqet si prova false e lehtë për t’u krijuar që synojnë grupet ose individët dhe mashtrime masive, ndërkohë që shumica e përdoruesve mungojnë profesionin profesional të medias ose mjetet për të dalluar të vërtetën nga gënjeshtra. Tre ish-përdorues të OpenAI i thanë NPR-së se nuk ishin të habitur nga lançimi i Sora, duke e parë atë si një hap strategjik për të treguar teknologjinë e re të videove në mes presionit të investitorëve, si në debutimin e ChatGPT-së. OpenAI ka zbatuar disa masa sigurie—përfshirë moderimin, ndalimin e mashtrimeve, dhunës dhe pornografisë, ujërat e vulosura, dhe kontrollin mbi përdorimin e fytyrës—por përdoruesit shpesh gjejnë mënyra për t’u shmangur këto mbrojtje, duke nxitur përgjigje të vazhdueshme nga kompania. Një ish-përdorues anonim i OpenAI shprehu shqetësimin se ndërsa konkurrenca përkrah zhvillimin e videove të nxjerra nga AI duke u ndeshur me presionin e rritjes, rregullat e sigurisë mund të dobësohen, duke shkaktuar ndërrim të rrezikshëm për shoqërinë. Soderberg-Rivkin parashikoi se aplikacionet pa rregulla, të ngjashme me Sora, pa masa sigurie do të dalin—siç është chatboti Grok i Elon Musk—dhe do të shfrytëzohen për të krijuar përmbajtje të dëmshme sintetike si material i abuzimit seksual të fëmijëve ose propagandë realistike shtetërore. Aktualisht, Sora është aplikacioni më i lartë në iPhone, por mbetet vetëm me ftesë.

Përdoruesit vërejnë kufizime në rritje: imitimet e yjeve dhe fake-t ekstreme (p. sh. , video të rreme të Jeffrey Epstein ose deklarata në burg të Sean “Diddy” Combs) janë bërë më të vështira për të prodhuar, edhe pse përmbajtje kontroversiale si arrestimet ose uniformat naziste vazhdojnë të gjenerojnë video. Drejtuesi i OpenAI, Sam Altman, njoftoi planet për të ndryshuar përdorimin e fytyrës nga “preferoni të shkëputeni” në “zgjidheni vetë” dhe për fund do të ndajë të ardhurat me pronarët e të drejtave, duke treguar një qasje që po evoluon shpejt si në fillimet e ChatGPT-së. Përmbytja e përmbajtjes së krijuar me AI ngrit pyetje për lodhjen e përdoruesve dhe nëse platformat do të ndërmarrin masa për të ndaluar ose ndëshkuar këtë material. Soderberg-Rivkin konsideron se ndalimi është i padobishëm dhe do të jetë i pashmangshëm për shkak të vështirësisë në identifikimin e përmbajtjes së krijuar nga AI në tekst, imazhe dhe video. Ajo paralajmëron se një politikë “pa AI” nuk mund të ndalojë infiltrimin e AI në internet. Një ish-punonjës tjetër i OpenAI argumentoi se lançimi i një aplikacioni shoqëror për deepfake ishte një lëvizje e arsyeshme biznesi, pavarësisht rritjes së rënies së realitetit, duke vënë në dukje se ishte e pashmangshme që dikush të dominonte këtë treg. Ndërkohë, Meta dhe Google kanë prezantuar mjete konkurrente të videove me AI (Vibes dhe Veo 3), por shpërthimi i Sora-s vërtet e ka përshpejtuar përhapjen e përmbajtjes së personalizuar videove me AI. Ekspertët e besueshmërisë dhe sigurisë e shohin Sora si një pikë kthese historike ku deepfakes kalojnë nga një tregues i rrallë në përmbajtje të përditshme dixhitale, duke potencialisht shkaktuar disfatizim të përdoruesve të mediave sociale ose një kolaps të besimit në integritetin e mediave online. Specialistët e dezinformimit kanë paralajmëruar prej kohësh për “dividendin e gënjeshtarit”—ku shumë deepfakes lejojnë që përmbajtjet e vërteta të mohojnë si të rreme—por realiteti i këtij fenomeni është tani më i ngutshëm se kurrë.