Rulling gjennom Sora-appen føles som å entre et surrealistisk multivers hvor absurde og hyperreelle korte videoer florerer: Michael Jackson som opptrer standup, Predator-ekselet som vender burgere, en elg som krasjer gjennom en glassdør, og Dronning Elizabeth som dykker av et pubbord. Utgitt av OpenAI, skaperen av ChatGPT, genererer Sora helt AI-lagde klipp som fascinerer, men som også tvinger brukere til kontinuerlig å stille spørsmål ved ektheten av det de ser. Sam Gregory, en ekspert på deepfake-teknologi og menneskerettighetsforkjemper, advarer om at Sora gjør det nesten umulig å skille ekte fra syntetisk innhold, og skaper en gjennomtrengende "tåke av tvil" over all media. Til tross for at appen kun inneholder AI-genererte videoer, gikk den raskt viralt, og passerte én million nedlastinger på mindre enn en uke etter lanseringen 30. september, og nådde toppen av den amerikanske App Store. For øyeblikket er Sora tilgjengelig eksklusivt for amerikanske iOS-brukere med invitasjonskoder. For å lage videoer, skanner brukerne ansiktet sitt og spiller inn en stemmeprøve, før de skriver inn skreddersydde tekstprompt for å generere 10 sekunders hyperreelle klipp med lyd og dialog. "Cameos"-funksjonen lar brukere legge andres ansikt, eller sitt eget, over eksisterende videoer. Selv om Sora legger vannmerke på videoene, fjerner mange nettsteder disse merkene. Opprinnelig tillot OpenAI at standardreproduksjoner av opphavsrettsbeskyttet materiale kunne genereres med mindre eierne valgte å si i mot, noe som førte til at brukere genererte AI-innhold med karakterer fra “SpongeBob SquarePants, ” “South Park, ” “Breaking Bad, ” “The Price Is Right, ” og “Friends. ” Dette eskalerte til å re-produsere avdøde kjendiser som Tupac Shakur som vandrer Cuba’s gater, Hitler som konfronterer Michael Jackson, og Martin Luther King Jr. som holder endrede taler som krever løslatelsen av rapperen Diddy. Zelda Williams, datter av Robin Williams, fordømte disse videoene som respektløse, og uttrykte sinne over utnyttelsen av menneskeliv og kunstneriske arv for å få flere likes på nettet. Andre AI-genererte fremstillinger av Kobe Bryant, Stephen Hawking og president Kennedy har gått viralt på sosiale plattformer. Familien til Fred Rogers uttrykte frustrasjon over villedende Sora-videoer som fremstiller Mister Rogers med pistol eller i samhandling med Tupac, noe som strider mot hans ekte verdier som fokuserte på barn.

De har formelt bedt OpenAI om å blokkere hans stemme og likhet på plattformen, og forventer respekt for personlige identiteter framover. På samme måte kritiserer Hollywoods talentbyråer og fagforeninger som SAG-AFTRA OpenAI for uautorisert bruk av skuespillere og lisensierte karakterer uten rettferdig betaling. Som svar på opphavsrettsproblemer annonserte administrerende direktør i OpenAI, Sam Altman, planer om å gi rettighetshavere større kontroll over hvordan deres karakterer vises i AI-videoer, samt utforske inntektsdeling. Studios kan nå "spli" for å tillate bruk av karakterer—en reversering av den opprinnelige policyen om å velge å ikke delta. Altman ser for seg en framtid der personlig tilpasset innhold blomstrer, lik en eksplosjon av kreativitet som kan sammenlignes med en "interaktiv fan-fiction. " I mellomtiden kjemper arvinger til avdøde skuespillere for å beskytte sine likenesser i møte med AI-fremgangen. CMG Worldwide har inngått samarbeid med deepfake-detektoren Loti AI for å overvåke uautoriserte digitale replikasjoner av 20 kjendiser, inkludert Burt Reynolds og Rosa Parks. Loti AI rapporterer en 30 ganger økning i påmeldinger siden lanseringen av Sora 2, ettersom brukere søker å få kontroll over digitale bilder etter å ha fjernet tusenvis av uautoriserte deepfake-eksemplarer siden januar. Etter respektløse fremstillinger av Martin Luther King Jr. , satte OpenAI midlertidig pause for genereringen av hans bilder på plattformen i tråd med arvingenes forespørsel, og erkjenner at mens ytringsfrihet tillater fremstillinger av offentlige personer, bør deres representanter bestemme bruken av deres likenesser. Nå kan arvinger be om å blokkere deres likenesser fra Sora sin Cameo-funksjon. Lovpålagte press har fått Sora til å skjerpe regler om opphavsrettsbeskyttet innhold, og utstede advarsler om brudd for replikasjoner som Disney-karakterer. Noen brukere gjør narr av restriksjonene ved å lage memes om disse policy-varslingene. I mellomtiden dominerer "AI-sloop" — merkelige, virale innslag som bestemødre som jager krokodiller eller tullete "fetiolympics" — engasjementet, med dedikerte skapere som vender dette til en lukrativ strøm som kalles "Cocomelon for voksne. " Kritikere advarer om at casual bruk av noens likeness, ikke bare kjendiser, kan skape forvirring, feilinformasjon og mistillit i offentligheten. I tillegg forsterker teknologiens misbruk av dårlige aktører og regjeringer for propaganda bekymringene. Gregory frykter at falske protestvideoer, uriktige atrocity-opplysninger eller manipulerte videoer med falske ord plassert i munnen på ekte personer kan skade sannheten og ansvarlighet alvorlig i en tid der AI-generert innhold flommer over.