U septembru 2025. godine, OpenAI je predstavio aplikaciju Sora, revolucionarnu platformu koja omogućava korisnicima da kreiraju video snimke sa izrazito realističnim podobnostima sebe ili drugih koristeći naprednu AI tehnologiju. Ova inovacija otvara nove mogućnosti u zabavi, obrazovanju, marketingu i društvenim mrežama. Međutim, uprkos svom potencijalu, nedavni događaji izazvali su značajne sigurnosne i etičke zabrinutosti u vezi sa medijima generisanim putem veštačke inteligencije. Ubrzo nakon objavljivanja Sora, firma Reality Defender, koja se specijalizovala za otkrivanje dubfakova i manipulisane medije, otkrila je da sigurnosne mere aplikacije, osmišljene da spreče zloupotrebu javnih snimaka, mogu biti zaobilažene u roku od 24 sata. Korišćenjem javno dostupnih videa poznatih osoba, Reality Defender je proizveo uverljive dubfakovske video snimke koje su zaobišle sistem verifikacije OpenAI-ja. Ovaj brz proboj ilustrira koliko su trenutne metode autentikacije lako nadmašive od strane odlučnih zlonamernih aktera. Sa obiljem javnog sadržaja na internetu, kreiranje realističnih, ali lažnih video snimaka postalo je znatno jednostavnije, što izaziva strahove od dezinformacija, manipulacije javnim mišljenjem i pada poverenja u digitalne medije. Stručnjaci za veštačku inteligenciju, sajber bezbednost i digitalnu etiku izrazili su ozbiljne zabrinutosti. Dr.

Elaine Thompson, vodeća etikistkinja u oblasti AI, primetila je da, iako su tehnologije poput Sora impresivne, donose nove odgovornosti; snažni alati za otkrivanje i etički smernice su od ključnog značaja da bi se sprečila zloupotreba i da koristi prevaziđu rizike. Industrijski stručnjaci ističu da kako se tehnologije dubfakova brzo razvijaju, strategije za otkrivanje i ublažavanje moraju se evolutivno menjati. Zalažu se za saradnju između developera AI-a, stručnjaka za bezbednost, kreatora politika i civilnog društva u postavljanju standarda za odgovornu upotrebu ovakvih tehnologija. Kao odgovor na ove nalaze, OpenAI je obećao da će dodatno pojačati sigurnost Sora, istražujući napredne metode verifikacije kao što su višefaktorska autentifikacija, digitalni watermarks unutar generisanog sadržaja i analiza ponašanja radi bolje diferencijacije pravih i sintetičkih snimaka. Takođe postoji sve veći konsenzus o potrebi uspostavljanja nacionalnih i međunarodnih regulativa. Politika se poziva da uspostavi jasna pravila za kreiranje, distribuciju i označavanje medija generisanih putem AI-a, da definiše odgovornost za zloupotrebu i obezbedi transparentnost, štiteći prava pojedinaca i javni interes. Izazovi koje donosi medijima kreiranim putem veštačke inteligencije prostiru se i na društvene i filozofske sfere. Laka proizvodnja uvjerljivih lažnih snimaka izaziva tradicionalne ideje o dokazima i autentičnosti, što je izazvalo pozive za veću medijsku pismenost i podizanje svesti u javnosti, kako bi se građani mogli kritički osvrnuti na digitalni sadržaj. Razvijaju se obrazovni programi kojima je cilj da učenicima prenesu znanja o rizicima sadržaja generisanog AI-em i kako prepoznati pouzdane izvore, sa željom da se izgradi informisana javnost koja će moći da se nosi sa brzim tehnološkim promenama. Saradnja između tehnoloških kompanija i organizacija za proveru činjenica postaje ključna. Kreiranjem zajedničkih baza podataka sa potvrđenim sadržajem i primenom automatizovanih alata za otkrivanje sumnjivih materijala, sistem digitalnih medija može da poveća svoju otpornost na manipulacije. Zaključno, aplikacija Sora od OpenAI-ja predstavlja veliki korak u razvoju medija kreiranih putem AI, nudeći uzbudljive mogućnosti ali i značajne izazove. Brza prevazilaznost zaštita koje pruža Reality Defender ukazuje na hitnu potrebu za unapređenjem sigurnosti, etičkim okvirom i regulativama. Rešavanje ovih složenih pitanja zahteva saradnju raznih aktera kako bi se uravnotežila inovacija i odgovornost, osiguravajući da napredak u AI medijima ide ruku pod ruku sa očuvanjem poverenja i integriteta u našem digitalnom svetu.