2025. gada septembrī OpenAI laidēja Sora lietotni, kas ir pārbaudīta platforma, ļaujot lietotājiem radīt videomateriālus ar ļoti reālistiskiem līdzīgieem ar viņiem pašiem vai citiem, izmantojot uzlabotu AI tehnoloģiju. Šī inovācija atver jaunas iespējas izklaidē, izglītībā, mārketingā un sociālajos medijos. Tomēr, neskatoties uz tās potenciālu, nesenie notikumi ir raisījuši nopietnas drošības un ētiskas bažas attiecībā uz AI radītajiem medijiem. Galvenokārt pēc Sora izlaišanas Reality Defender, uzņēmums, kas specializējas dziļviltību un manipulētu mediju atklāšanā, atklāja, ka lietotnes drošības pasākumus, kas paredzēti publisko ierakstu nepareizas izmantošanas novēršanai, var pārkāpt 24 stundu laikā. Izmantojot publiski pieejamus video ar zināmiem cilvēkiem, Reality Defender izraisīja pārliecinošus dziļviltus video, kas izdevās apiet OpenAI verificācijas sistēmas. Šis ātrais uzbrukums ilustrē, cik viegli pašreizējās autentifikācijas metodes var apsteigt nolēmušus ļaunprātīgus mēģinājumus. Ar bagātīgu publisko saturu tiešsaistē radīt reālistiskus, taču viltus video ir kļuvuši daudz vienkāršāki, radot bailes par dezinformāciju, sabiedrības viedokļa manipulāciju un publiskās uzticības samazināšanos digitālajos medijos. Eksperti AI, kiberdrošības un digitālās ētikas jomā ir izrādījuši nopietnas bažas. Dr. Elēnas Tomaons, vadošā AI ētikas eksperte, norāda, ka, lai gan tādas tehnoloģijas kā Sora ir iespaidīgas, tās nes jaunas atbildības; ir nepieciešami stingri detektoru rīki un ētikas vadlīnijas, lai novērstu ļaunprātīgu izmantošanu, kas varētu pārspēt ieguvumus. Nozares speciālisti uzsver, ka, ņemot vērā dziļviltņu tehnoloģiju straujo attīstību, arī to atpazīšanas un mazināšanas stratēģijām jāattīstās tikpat ātri.

Viņi aicina uz sadarbību starp AI izstrādātājiem, drošības ekspertiem, politikas veidotājiem un pilsonisko sabiedrību, lai izstrādātu standartus atbildīgas tehnoloģiju lietošanas nodrošināšanai, piemēram, Sora. Atbildot uz šiem secinājumiem, OpenAI apņēmās uzlabot Sora drošību, meklējot uzlabotas pārbaudes metodes, piemēram, daudzfaktoru autentifikāciju, digitālas ūdenszīmes ģenerētajos materiālos un uzvedības analīzi, lai labāk atšķirtu patiesus un sintētiskus video. Arī pieaug vienprātība par nepieciešamību noteikt nacionālas un starptautiskas regulas. Politikas veidotāji tiek aicināti izstrādāt skaidrus noteikumus par AI radītu mediju radīšanu, izplatīšanu un marķēšanu, noteikt atbildību par ļaunprātīgu izmantošanu un nodrošināt caurskatāmību, lai aizsargātu indivīdu tiesības un sabiedrības intereses. AI radīto mediju izaicinājumi ietekmē arī sabiedrības un filozofijas sfēras. Viegla veida radīt pārliecinošas viltus ziņas izaicina tradicionālos pierādījumu un autentiskuma veidus, izraisot aicinājumus uz pastiprinātu medijzinātņu izglītību un sabiedrības informētību, lai cilvēki varētu kritiski izvērtēt digitālo saturu. Tiek izstrādāti izglītības programmas, lai mācītu skolēniem par AI radītu satursu riskiem un kā atpazīt uzticamus avotus, ar mērķi veidot zinošāku sabiedrību, kas spēj pārvaldīt strauji mainīgās tehnoloģijas. Svarīga ir arī sadarbība starp tehnoloģiju uzņēmumiem un faktnoskaidrotājiem. Izveidojot kopīgas datu bāzes ar verificētu saturu un izmantojot automatizētus rīkus aizdomīga materiāla atklāšanai, digitālo mediju ekosistēma var uzlabot savu izturību pret manipulācijām. Kopumā OpenAI Sora lietotne ir ievērojams solis AI radīto saturu jomā, sniedzot aizraujošas iespējas un vienlaikus izaicinājumus. Reality Defender ātra Sora aizsardzības apietšana uzsver steidzamu nepieciešamību pēc drošības uzlabojumiem, ētikas ietvariem un regulējumiem. Šo sarežģīto problēmu risināšanai ir nepieciešama daudzpusīga sadarbība starp dažādiem iesaistītajiem, lai līdzsvarotu inovāciju ar atbildību, nodrošinot, ka AI mediji attīstās bez uzticības un integritātesapdraudēšanas mūsu digitālajā pasaulē.