Videoer skabt med OpenAI’s Sora-app fylder hurtigt platforme som TikTok og Instagram Reels, hvilket gør syntetisk AI-genereret indhold næsten uundgåeligt—noget som mange brugere finder stadig mere frustrerende. Dog advarer eksperter i digital sikkerhed om en dybere, mindre åbenlys konsekvens: OpenAI har effektivt omdøbt deepfakes til en legende, mainstream trend, som anbefalingsalgoritmer ivrigt promoverer. Når millioner støder på disse videoer, bliver opfattelsen af sandhed og online normer formet på nye måder. Daisy Soderberg-Rivkin, tidligere trust og safety-manager hos TikTok, beskrev dette som deepfakes, der får en "publicist og en distributionsaftale, " hvilket forstærker en allerede bekymrende teknologi på en ny, bred platform. Aaron Rodericks, leder af trust og safety hos Bluesky, advarede om, at samfundet ikke er forberedt på den uklare grænse mellem virkelighed og fabrikation. Han pegede på risici som let falske beviser rettet mod identitetsgrupper eller enkeltpersoner og storstilede svindelnumre, hvor de fleste brugere mangler mediekompetence eller værktøjer til at skelne sandhed fra fiktion. Tre tidligere ansatte hos OpenAI fortalte NPR, at de ikke blev overraskede over lanceringen af Sora, og så det som et strategisk træk for at vise ny videoteknologi frem midt i pres fra investorer, der minder om debuten af ChatGPT. OpenAI har implementeret flere sikkerhedsforanstaltninger—herunder moderation, forbud mod svindel, vold og pornografi, vandmærkning og kontrol med brug af lighed—men brugere finder ofte måder at omgå disse beskyttelser på, hvilket får virksomheden til løbende at reagere. En anonym tidligere OpenAI-medarbejder udtrykte bekymring for, at når konkurrencen i AI-genererede videoplatforme intensiveres, vil sikkerhedsregler blive svækket, hvilket kan skade samfundet. Soderberg-Rivkin forudså, at uregulerede apps som Sora uden sikkerhedsforanstaltninger vil opstå—ligner Elon Musks Grok-chatbot—og sandsynligvis blive udnyttet til at skabe skadelig syntetisk indhold såsom materiale med børneporno eller statsstøttet realistisk propaganda. Lige nu er Sora den førende app på iPhone, men den er stadig kun til invitation.

Brugere bemærker stigende restriktioner: det er blevet sværere at lave kendis-imitations og ekstreme forfalskninger (f. eks. falske Jeffrey Epstein-videoer eller Sean “Diddy” Combs’ celleråbenskildringer), selvom kontroversielt indhold som arrestationer eller nazistiske uniformer stadig genererer videoer. OpenAI-chef Sam Altman annoncerede planer om at ændre brugen af ligheder fra “fravalg” til “valg” og til sidst dele indtægterne med rettighedshaverne, hvilket signalerer en hurtigt udviklende tilgang, der ligner de tidlige dage for ChatGPT. Floden af AI-genereret indhold rejser spørgsmål om brugerudmattelse og om platforme vil stramme grebet eller udelukke sådan materiale. Soderberg-Rivkin mener, at et forbud er usandsynligt og alligevel ville være ineffektivt, da det bliver stadig sværere at opdage AI-indhold på tværs af tekst, billeder og videoer. Hun advarede om, at en “ingen AI”-politik ikke kan stoppe AI’s indtrængen online. En anden tidligere OpenAI-medarbejder hævdede, at lanceringen af en deepfake-social app var en god forretningsstrategi trods den forværrede erosion af virkeligheden og bemærkede, at det var uundgåeligt, at nogen ville dominere dette marked. Imens har Meta og Google introduceret konkurrentende AI-videoværktøjer (Vibes og Veo 3), men Sora’s udgivelse har virkelig accelereret udbredelsen af personligt tilpassede AI-videoer. Trust- og safety-eksperter ser Sora som et historisk vendepunkt, hvor deepfakes går fra at være sjældne kuriositeter til dagligdags digitalt indhold, hvilket potentielt kan føre til social media-frakobling eller kollaps i tilliden til online mediers integritet. Desinformationsspecialister har længe advaret om “løgnens udbytte”—hvor rigelige deepfakes gør det muligt at afvise ægte indhold som fake—men virkeligheden af dette fænomen er nu mere presserende end nogensinde.