Door de Sora-app scrollen voelt als het betreden van een surrealistische multiversum waar absurde en hyperrealistische korte video’s volop aanwezig zijn: Michael Jackson die stand-up comedy doet, de Predator-alien die hamburgers omdraait, een eland die door een glazen deur breekt, en Koningin Elizabeth die van een kroegtafel duikt. Uitgebracht door OpenAI, de maker van ChatGPT, genereert Sora volledig door AI gemaakte clips die betoveren maar gebruikers ook voortdurend dwingen de echtheid van wat ze zien in twijfel te trekken. Sam Gregory, een expert op het gebied van deepfakes en mensenrechtenadvocaat, waarschuwt dat Sora het bijna onmogelijk maakt om echt van synthetisch materiaal te onderscheiden, waardoor er een alomtegenwoordige “mist van twijfel” over alle media ontstaat. Ondanks dat de app alleen door AI gegenereerde video’s bevatte, ging deze snel viraal en overschreed binnen minder dan een week na de lancering op 30 september de miljoen downloads, en topte de Amerikaanse App Store. Momenteel is Sora exclusief beschikbaar voor Amerikaanse iOS-gebruikers met uitnodigingscodes. Om video’s te maken, scannen gebruikers hun gezicht en nemen ze een stemmonster op, waarna ze eigen tekstprompts invoeren om hyperrealistische clips van 10 seconden te genereren, compleet met geluid en dialoog. De “Cameos”-functie maakt het mogelijk het gezicht van een gebruiker of vriend op bestaande video’s te plaatsen. Hoewel Sora video’s watermarkt, verwijderen veel websites deze watermerken inmiddels. Aanvankelijk maakte OpenAI het mogelijk om auteursrechtelijk beschermd materiaal standaard na te maken, tenzij de eigenaren opting-out, wat gebruikers ertoe aanzette AI-inhoud te creëren met personages uit “SpongeBob SquarePants, ” “South Park, ” “Breaking Bad, ” “The Price Is Right, ” en “Friends. ” Dit leidde tot het opnieuw creëren van overleden beroemdheden zoals Tupac Shakur die door de straten van Cuba wandelt, Hitler die Michael Jackson confronteert, en Martin Luther King Jr. die aangepaste toespraken houdt waarin hij eist dat rapper Diddy wordt vrijgelaten. Zelda Williams, dochter van Robin Williams, veroordeelde deze video’s als respectloos en uitte haar boosheid over de uitbuiting van menselijke levens en artistieke erfenissen voor online likes. Andere AI-gegenereerde afbeeldingen van Kobe Bryant, Stephen Hawking en president Kennedy zijn viral gegaan op sociale platforms. De familie van Fred Rogers uitte frustratie over misleidende Sora-video’s waarin Mister Rogers een pistool vasthoudt of met Tupac communiceert, in strijd met zijn op kinderen gerichte waarden. Ze hebben OpenAI formeel gevraagd zijn stem en gelijkenis te blokkeren op het platform, met de verwachting dat er voortaan respect is voor persoonlijke identiteit.

Evenzo bekritiseren Hollywood-talentbureaus en vakbonden zoals SAG-AFTRA OpenAI omdat ze acteursgelijkenissen en gelicentieerde personages zonder eerlijke vergoeding gebruiken. In reactie op auteursrechtenkwesties kondigde OpenAI-CEO Sam Altman plannen aan om rechthebbenden meer controle te geven over hoe hun personages verschijnen in AI-video’s en om inkomstenverdeling te onderzoeken. Studios kunnen nu “opt-in”-mogelijkheden gebruiken om het gebruik van personages toe te staan—een ommekeer van het oorspronkelijke “opt-out”-beleid. Altman voorziet een toekomst waarin gepersonaliseerde content floreert, vergelijkbaar met een explosie van creativiteit, vergelijkbaar met “interactieve fanfictie. ” Ondertussen proberen de erfgenamen van overleden acteurs hun gelijkenissen te beschermen te midden van AI-ontwikkelingen. CMG Worldwide werkte samen met deepfake-detector Loti AI om ongeautoriseerde digitale recreaties van 20 beroemdheden, waaronder Burt Reynolds en Rosa Parks, te monitoren. Loti AI meldt dat het aantal aanmeldingen vertienvoudigd is sinds de lancering van Sora 2, terwijl gebruikers proberen meer controle te krijgen over digitale beelden, nadat er sinds januari duizenden ongeautoriseerde deepfake-voorbeeldfilms zijn verwijderd. Na beledigende beelden van Martin Luther King Jr. heeft OpenAI zijn afbeelding-generatie stopgezet op verzoek van de erven, die erkenden dat hoewel vrije meningsuiting het afbeelden van publieke figuren toestaat, hun vertegenwoordigers het gebruik van hun gelijkenissen zouden moeten kunnen controleren. Nu kunnen de erven verzoeken om het blokkeren van hun gelijkenis via de Cameo-functie van Sora. Juridische druk heeft ertoe geleid dat Sora strikter is geworden met betrekking tot auteursrechtelijk beschermd materiaal en waarschuwingen geeft bij het recreëren van bijvoorbeeld Disney-personages. Sommige gebruikers maken grappen over deze beperkingen door memes te maken over deze content policy-berichten. Ondertussen domineren “AI-ellende”—bizarre, virale content zoals grootmoeders die krokodillen achtervolgen of komische “vette olympische spelen”—de betrokkenheid, waarbij toegewijde makers er een lucratieve stroming van maken, genaamd “Cocomelon voor volwassenen. ” Critici waarschuwen dat het casual toe-eigenen van de gelijkenissen van iedereen, niet alleen beroemdheden, het publiek kan verwarren, voor verkeerde informatie kan zorgen en het vertrouwen ondermijnt. Daarnaast verhoogt het misbruik van de technologie door kwaadwillenden en overheden voor propaganda de zorgen. Gregory vreest dat vervalste protestbeelden, geënsceneerde wreedheden of gemanipuleerde video’s met valse woorden in de mond van echte mensen de waarheid en verantwoordelijkheid ernstig kunnen schaden te midden van de overvloed aan AI-gegenereerde inhoud.