Att scrolla genom Sora-appen känns det som att kliva in i ett surrealistiskt multiversum där absurda och hyperrealistiska korta videor dominerar: Michael Jackson som står upp och driver med standup, Predator-alien som steker hamburgare, en älg som krockar genom en glasdörr, och Queen Elizabeth som dyker ner från ett pubbord. Utvecklad av OpenAI, skaparen av ChatGPT, genererar Sora helt AI-skapade klipp som fascinerar men också tvingar användare att ständigt ifrågasätta äktheten i det de ser. Sam Gregory, expert på deepfake-teknologi och människorättsaktivist, varnar för att Sora gör det näst intill omöjligt att skilja på äkta och syntetiskt innehåll, vilket skapar ett genomträngande “dimmat som en dimma av tvivel” över all media. Trots att appen endast erbjuder AI-genererade videor blev den snabbt viral, med över en miljon nedladdningar på mindre än en vecka efter lanseringen den 30 september, och tog förstaplatsen på USAs App Store. Just nu är Sora exklusivt tillgänglig för iOS-användare i USA med inbjudningskoder. För att skapa videor skannar användarna sitt ansikte och spelar in ett röstprov, för att sedan ange egna textuppmaningar och generera 10-sekunders hyperrealistiska klipp med ljud och dialog. Funktionerna “Cameos” tillåter att en användares eller väns ansikte placeras ovanpå befintliga videor. Även om Sora vattenstämplar videoklippen, tar många webbplatser nu bort dessa märken. Inledningsvis tillät OpenAI att en användare kunde återskapa upphovsrättsskyddat material som standard, om inte ägarna valde att avstå, vilket ledde till att användare skapade AI-innehåll med karaktärer från “SpongeBob SquarePants, ” “South Park, ” “Breaking Bad, ” “The Price Is Right” och “Friends. ” Detta utvecklades till att återge avlidna kändisar som Tupac Shakur spankulerande i Kubas gator, Hitler som konfronterar Michael Jackson, och Martin Luther King Jr. som håller ändrade tal och kräver att rapparen Diddy ska släppas fri. Zelda Williams, dotter till Robin Williams, fördömde dessa videor som respektlösa och uttryckte ilska över att människoliv och konstnärliga arv utnyttjas för att få likes online. Andra AI-genererade bilder av Kobe Bryant, Stephen Hawking och president Kennedy har blivit virala på sociala plattformar. Fred Rogers familj uttryckte frustration över vilseledande Sora-videor som föreställer Mister Rogers med vapen eller som interagerar med Tupac, vilket strider mot hans riktiga, barnfokuserade värderingar. De har formellt bett OpenAI att blockera hans röst och bild på plattformen, och förväntar sig att respekten för personliga identiteter ska prioriteras i framtiden.

På samma sätt kritiserar Hollywoods talentbyråer och fackliga organisationer som SAG-AFTRA OpenAI för obehörig användning av skådespelarnas bilder och licensierade karaktärer utan rättvis ersättning. Som svar på oro kring upphovsrättsfrågor meddelade OpenAIs CEO Sam Altman att de planerar att ge rättighetsinnehavare större kontroll över hur deras karaktärer används i AI-videor och att utforska intäktsdelning. Filmbolag kan nu “välja att delta” och tillåta användning av karaktärer—en omvändning från den initiala policyn att man kunde välja att inte delta. Altman ser en framtid där personligt anpassat innehåll blomstrar, jämförbart med en explosion av kreativitet liknande “interaktiv fan-fiction. ” Samtidigt arbetar arvingar till avlidna skådespelare för att skydda sina bilder mitt i AI-utvecklingen. CMG Worldwide jobbade tillsammans med deepfake-detektorn Loti AI för att övervaka obehöriga digitala återskapanden av 20 kändisar, inklusive Burt Reynolds och Rosa Parks. Loti AI rapporterar en 30-dubbling av anmälningar sedan lanseringen av Sora 2, då användare söker återfå kontrollen över digitala bilder efter att ha tagit bort tusentals otillåtna deepfake-versioner sedan januari. Efter respektlösa bilder av Martin Luther King Jr. pausade OpenAI hans bildgenerering på estateets begäran, och erkänner att medan yttrandefrihet tillåter porträtt av offentliga personer, bör deras företrädare ha kontroll över användningen av deras bilder. Nu kan arvingarna begära att deras bild blockeras från Soras “Cameo”-funktion. Juridiska påtryckningar har gjort att Sora har skärpt reglerna kring upphovsrättsskyddat material och utfärdat varningsmeddelanden om överträdelser för exempelvis Disney-figurer. Vissa användare hånar dessa restriktioner genom att skapa memes om dessa policynotiser. Samtidigt dominerar “AI-slarv”—bizarre, virala innehåll som farmödrar som jagar krokodiler eller komiska “fet olympiad”—engagemang, där dedikerade kreatörer gör det till ett lukrativt företag kallat “Cocomelon för vuxna. ” Kritiker varnar för att den okynnesmässiga approprieringen av vem som helst’s bild, inte bara kändisar, riskerar att skapa förvirring, sprida desinformation och urholka förtroendet. Dessutom förhöjs oro över att teknologin missbrukas av elaka aktörer och regeringar för propaganda. Gregory är rädd för att fabricerade protestfilmer, iscensatta grymheter eller manipulerade videor som placerar falska ord i riktiga människors munnar kan skada sanningen och ansvarstagandet allvarligt i ett flöde av AI-genererat innehåll.