Videoclipurile create cu aplicația Sora de la OpenAI satură rapid platforme precum TikTok și Instagram Reels, făcând ca conținutul sintetic generat de AI să devină aproape inevitabil — lucru pe care mulți utilizatori îl consideră tot mai frustrant. Totuși, experții în siguranță digitală avertizează asupra unui impact mai profund, mai puțin evident: OpenAI a rebrand-uit efectiv deepfakes-urile ca pe o tendință jucăușă, mainstream, promovată cu entuziasm de algoritmii de recomandare. Pe măsură ce milioane de oameni întâlnesc aceste videoclipuri, percepțiile despre adevăr și normele online se schimbă. Daisy Soderberg-Rivkin, fost manager pentru încredere și siguranță la TikTok, a descris acest fenomen ca deepfakes câștigând un „agent de PR și un contract de distribuție, ” amplificând o tehnologie deja îngrijorătoare pe o platformă nouă, vastă. Aaron Rodericks, șeful departamentului de încredere și siguranță de la Bluesky, a avertizat că societatea nu este pregătită pentru estomparea liniei dintre realitate și fabricare. El a subliniat riscuri precum evidențe false facile de fabricat, vizând grupuri de identitate sau indivizi, și escrocherii la scară largă, majoritatea utilizatorilor lipsindu-le alfabetizarea media sau instrumentele pentru a distinge adevărul de ficțiune. Trei fost angajați OpenAI au spus NPR că nu le-a surprins lansarea Sora, considerând-o o mișcare strategică pentru a demonstra noua tehnologie video în contextul presiunilor din partea investitorilor, asemănător debutului ChatGPT. OpenAI a implementat mai multe măsuri de siguranță, printre care moderare, interdicții privind escrocheriile, violența și pornografia, watermarking și control asupra utilizării imaginii, deși utilizatorii găsesc adesea modalități de a ocoli aceste protecții, ceea ce determină răspunsuri continue din partea companiei. Un fost angajat anonim al OpenAI și-a exprimat îngrijorarea că, pe măsură ce concurența în domeniul video generat de AI crește, regulile de siguranță pot fi relaxate, ceea ce ar putea dăuna societății. Soderberg-Rivkin a prezice că apar aplicații precum Sora, fără reglementări sau măsuri de siguranță, similare cu chatbot-ul Grok al lui Elon Musk, și acestea vor fi probable utilizate pentru crearea de conținut sintetic dăunător, precum materiale de abuz sexual asupra minorilor sau propagandă realistă sponsorizată de stat. În prezent, Sora este cea mai populară aplicație pentru iPhone, dar rămâne disponibilă doar prin invitație.

Utilizatorii observă restricții tot mai stricte: impersonificările celebrităților și fake-urile extreme (de exemplu, videoclipuri false cu Jeffrey Epstein sau declarații din închisoare ale lui Sean “Diddy” Combs) au devenit mai dificil de realizat, deși conținutul controversat, precum arestări sau uniforme naziste, încă generează videoclipuri. CEO-ul OpenAI, Sam Altman, a anunțat planuri de a trece de la utilizarea „opt-out” la „opt-in” a imaginii și, în cele din urmă, de a împărți veniturile cu deținătorii de drepturi, indicând o abordare în rapidă evoluție, similară cu începuturile ChatGPT. Fluxul de conținut generat de AI ridică întrebări despre oboseala utilizatorilor și dacă platformele vor pune capăt sau vor interzice astfel de materiale. Soderberg-Rivkin consideră că o interdicție este improbabilă și, oricum, ineficientă, având în vedere dificultățile crescande în detectarea conținutului AI în texte, imagini și videoclipuri. Ea a avertizat că o politică de „fără AI” nu poate opri infiltrarea AI-ului în mediul online. Un alt fost angajat al OpenAI a argumentat că lansarea unei aplicații sociale pentru deepfakes a fost o decizie comercială înțeleaptă, chiar dacă duce la deteriorarea realității, menționând că era inevitabil ca cineva să domine acest sector. Între timp, Meta și Google au lansat instrumente concurente de creare video AI (Vibes și Veo 3), dar lansarea Sora a accelerat cu adevărat proliferarea conținutului video personalizat generat de AI. Experții în încredere și siguranță consideră că Sora reprezintă un punct de cotitură istorică, unde deepfakes trec de la rarități la conținut digital de zi cu zi, potențial conducând la dezangajarea de pe rețelele sociale sau la prăbușirea încrederii în integritatea mass-media online. Specialiștii în dezinformare au avertizat de mult timp asupra „dividendului mincinosului”—unde abundența deepfakes permite ca conținutul real să fie infirmat ca fiind fals — însă realitatea acestui fenomen este acum mai poignant ca niciodată.