Í september 2025 sýndi OpenAI frumkvöðlastarfsemi sína með því að kynna Sora forritið, nýstárlegt vettvang sem gerir notendum kleift að búa til myndbönd með mjög raunsæjum líkön af sér sjálfum eða öðrum með háþróuðri gervigreindartækni. Þessi nýjung opnar nýjar leiðir í skemmtun, menntun, markaðssetningu og samfélagsmiðlum. Hins vegar, þrátt fyrir loforð sitt, hafa nýlegar þróanir vakið verulegar öryggis- og siðferðislegar áhyggjur varðandi miðla sem eru búin til af gervigreind. 周期 eftir að Sora kom út fóru fyrirtæki eins og Reality Defender, sem sérhæfir sig í að greina djúpsleik og stjórna miðlum sem hafa verið farið með, fram og sagði að öryggisráðstafanir forritsins, sem eru hannaðar til að koma í veg fyrir misnotkun opinberra gögna, gætu verið ónýtanlegar innan 24 klukkustunda. Með því að nota opinberar myndbönd af þekktum einstaklingum skapaði Reality Defender sannfærandi djúpsleikmyndbönd sem sluppu í gegn hjá sannprófunarkerfum OpenAI. Þessi hraði árás sýnir hversu auðvelt er fyrir illgjarnan að koma fram með lygaleg miðla sem líta út fyrir að vera raunverulegur. Með óteljandi opinberum efni á netinu hefur auðvelgast að búa til raunsæ myndbönd sem eru falsaðar útgáfur, sem veldur áhyggjum um rangfærslur, stjórnun á almenningshugmyndum og minnkandi traust á stafrænum miðlum. Sérfræðingar í gervigreind, öryggismálum og siðfræði hafa lýst mikilvægum áhyggjum. Dr. Elaine Thompson, frumkvöðull í siðfræði gervigreindar, bendir á að þó að tækni eins og Sora sé áhrifarík, beri hún einnig ábyrgð; sterkar greiningar- og eftirlitsverkfæri ásamt siðferðislegum leiðbeiningum eru nauðsynlegar til að koma í veg fyrir misnotkun, sem getur ógnað þeim góðu möguleikum sem hún býður upp á. Fachfólk í greiningu á tækni, öryggismálum og stafrænum siðferði áréttar að þar sem djúpsleik tækni þróast hratt, verði einnig að þróa greiningar- og viðbragðsáætlanir á sama hraða. Þeir leggja áherslu á samstarf milli þróunaraðila á gervigreind, öryggissérfræðinga, löggjafarmanna og almennings til að setja staðla um ábyrga notkun slíkra tækni eins og Sora.

Í kjölfar þessara niðurstaðna hefur OpenAI fullvissað að styrkja öryggi Sora með því að kanna háþróuð sannprófunartól, eins og margföldu stiga staðfestingar, stafrænar vatnsmerkingar innan framleidds efnis og hegðunarathugun til aðgreina raunverulegar og tilbúnar myndbönd betur. Einnig er vaxandi samstaða um nauðsyn þess að setja lands- og alþjóðlegar reglur. Löggjafarstefna er hvött til að skýra regluverk um gerð, dreifingu og merkingu gervigreindarmiðla, ábyrgð við misnotkun og gegnsæi til að verja einstaklingsréttindi og almannaheill. Vandamál sem skapast vegna gervigreindarmiðla ná einnig inn á félagslega og heimspekilega vídd. Auðveld og sannfærandi falsað myndbönd ásamt tækni til að búa til þau setja spurningar um hefðbundnar hugmyndir um sönnunargögn og sannleiksgildi, sem kallar á aukna fjölmiðlamenntun og almannafræðslu til að hjálpa einstaklingum að gagnrýna og greina áreiðanlegar heimildir í stafrænum heimi. Menntunarverkefni eru í þróun til að kenna nemendum um áhættu gervigreindarmiðla og hvernig hægt er að þekkja áreiðanlega heimildir, í því skyni að byggja upp upplýstari og meðvitaðri þjóð. Samstarf milli tæknifyrirtækja og sannprófunaraðila er einnig mikilvægt. Með því að skapa sameiginleg gagnabanka af staðfestum efnis og nota sjálfvirk tól til að greina vafasaman efni, má auka viðnám stafræns miðla gegn misnotkun og stjórnun. Í heildina táknar forritið Sora frá OpenAI stórt skref í þroti gervigreindarmiðla og býður upp á spennandi tækifæri, en einnig miklar áskoranir. Fljótleg frásnúð Reality Defender á öryggi Sora undirstrikar brýna þörf á umbótum í öryggisvernd, siðferðislegum rammi og reglugerðum. Aðstandendur þessara mála þurfa að vinna saman, svo að hægt sé að sameina nýsköpun og ábyrga notkun miðla, og tryggja að tækniþróun í gervigreind haldi áfram að bæta samfélagið án þess að ógna trausti og heilindum í stafrænum heimi okkar.