Selaaminen Sora-sovelluksessa tuntuu kuin astuisi surrealistiseen multiversumiin, jossa pomppii absurdeja ja hyperrealistisia lyhytvideoita: Michael Jackson esittää stand-upia, Predator-alienssi nakkaa hampurilaisia, hirvi ryntää lasiovesta sisään, ja kuningatar Elizabeth sukeltaa pubipöydältä alas. OpenAI:n, ChatGPT:n tekijän, julkaisema Sora generoi täysin tekoälyn luomia klippejä, jotka lumoavat mutta samalla pakottavat käyttäjät kyseenalaistamaan koko ajan sitä, mitä näkevät. Sam Gregory, deepfake-asiantuntija ja ihmisoikeusaktivisti, varoittaa, että Sora tekee lähes mahdottomaksi erottaa aito ja synteettinen sisältö toisistaan, mikä luo kaikkien median ylle vallitsevan “sumun epävarmuudesta”. Vaikka sovellus sisältää vain tekoälyn luomia videoita, se levisi nopeasti viraaliksi, ja ylitti miljoonan latauksen alle viikossa julkaisunsa jälkeen 30. syyskuuta, nousten USA:n App Storella kärkeen. Tällä hetkellä Sora on saatavilla ainoastaan Yhdysvaltojen iOS-käyttäjille kutsukoodilla. Videoiden luomiseksi käyttäjät skannauttavat kasvonsa ja ääninäytteensä, minkä jälkeen he syöttävät henkilökohtaisia tekstipyyntöjä tuottaakseen 10 sekunnin hyperrealistisia klippejä, joissa on ääni ja dialogi. “Cameos”-ominaisuudella voi asettaa oman tai ystävän kasvot olemassa oleviin videoihin. Vaikka Sora vesileimaa videoita, monet sivustot poistavat nämä vesileimat. Aluksi OpenAI sallii oletuksena tekijänoikeuden alaisten materiaalien uudelleenluomisen, elleivät omistajat kiellä sitä, mikä on johtanut siihen, että käyttäjät ovat luoneet tekoälyn avulla sisältöjä “SpongeBob SquarePants”, “South Park”, “Breaking Bad”, “The Price Is Right” ja “Friends” -hahmoista. Tämä on johtanut myös kuolleiden julkkisten, kuten Tupac Shakurin, Kuuban kaduilla seilaamisen, Hitlerin kohtaamisen Michael Jacksonin kanssa ja Martin Luther King Jr:n muokattuihin puheisiin, joissa vaaditaan räppäri Diddyn vapauttamista. Zelda Williams, Robin Williamsin tytär, tuomitsi nämä videot epäkohteliaiksi ja ilmaisi suuttumuksensa ihmishenkiä ja taiteellista perintöä hyväkseen käyttäviä online-likes-kampanjoita kohtaan. Muut tekoälyn avulla luodut kuvat Kobe Bryantistä, Stephen Hawkingista ja presidentti Kennedystä ovat levinneet viraalisti sosiaalisessa mediassa. Fred Rogersin perhe ilmaisi turhautumisensa harhaanjohtaviin Sora-videoihin, joissa Mister Rogersia muistutetaan aseella tai vuorovaikutuksessa Tupacin kanssa, mikä on ristiriidassa hänen aitojen, lapsikeskeisten arvojensa kanssa. He ovat tehneet virallisen pyynnön OpenAI:lle estää hänen äänensä ja kasvonäkyvyyden alustalla, odottaen jatkossa enemmän kunnioitusta yksilöllisiä identiteettejä kohtaan.

Samoin Hollywoodin talenttitoimistot ja ammattiliitot kuten SAG-AFTRA kritisoivat OpenAI:tä näyttelijöiden kasvojen ja lisensoituun sisältöön perustuvien hahmojen luvattomasta käytöstä ilman oikeudenmukaista korvausta. Oikeudellisten huolien vuoksi OpenAI:n toimitusjohtaja Sam Altman ilmoitti suunnitelmista antaa oikeudenhaltijoille enemmän valtaa siihen, miten heidän hahmojaan esiintyy tekoälyvideoissa, sekä tutkia tulonjakomahdollisuuksia. Studiot voivat nyt “valita sisään” sallimalla hahmojen käytön – kääntäen alkuperäisen ip-ominaisuuden. Altman näkee tulevaisuuden, jossa henkilökohtainen sisältö kukoistaa, ja sitä verrataan luovuuden räjähdykseen, kuten “interaktiiviseen fanifikioon”. Samaan aikaan kuolleiden näyttelijöiden perheet kiirehtivät suojelemaan kasvojaan tekoälyn yleistyessä. CMG Worldwide on tehnyt yhteistyötä deepfake-detektori Loti AI:n kanssa valvoakseen luvattomia digitaalimuunnelmia, jotka esittävät 20 julkkista, kuten Burt Reynolds ja Rosa Parks. Loti AI raportoi 30-kertaisesta kasvusta rekisteröitymisissä Sora 2:n julkaisun jälkeen, kun käyttäjät haluavat saada kontrollin digitaalisiin kuviinsa, ja ovat poistaneet tuhansia luvattomia deepfake-esiintymiä tammikuusta lähtien. Martin Luther King Jr:n epäkohteliasta kuvanmuokkausta jälkeen OpenAI pysäytti hänen kuvantuotantonsa perheen pyynnöstä, tunnustaen, että vaikka sananvapaus sallii julkisten henkilöiden kuvamiset, heidän edustajiensa tulisi hallita niiden käyttöä. Nyt perheet voivat pyytää estämään heidän kuvansa esiintymisen Sora:n Cameo-ominaisuudessa. Lainsäädännölliset paineet ovat pakottaneet Soran tiukentamaan sääntöjään tekijänoikeudellisesti suojatun sisällön osalta, ja se antaa varoituksia esimerkiksi Disney-hahmojen uudelleenluomisista. Joillakin käyttäjillä on tapana pilkata näitä rajoituksia tekemällä meemejä näistä sisältösäännöistä. Samaan aikaan “AI-soppa” – outoja, viraaleja sisältöjä kuten isoäidit jahtaamassa krokotiileja tai hulvattomia “fett Olimpiakisata” – hallitsee sitoutumisia, ja omistautuneet luojat ovat muuttaneet sen tuottavaksi tulonlähteeksi nimeltä “Cocomelon aikuisille”. Kriitikot varoittavat, että satunnainen kenen tahansa kasvon oikeudenomainen käyttö, ei vain julkkisten, voi johtaa yleiseen hämmennykseen, väärinkäsityksiin ja luottamuksen heikkenemiseen. Lisäksi teknologian väärinkäyttö huijareiden ja hallitusten propaganda-aseena lisää huolia. Gregory pelkää, että väärennettyjen protestivideoiden, lavastettujen julmuuksien tai manipuloitujen videoiden myötäettomien sanojen laittaminen oikeiden ihmisten suuhun voi vakavasti vahingoittaa totuutta ja vastuullisuutta tekoälyn luomien sisältöjen tulvan keskellä.