U septembru 2025. godine, OpenAI je lansirao aplikaciju Sora, revolucionarnu platformu koja omogućava korisnicima stvaranje videa s vrlo realističnim prikazima njih ili drugih osoba koristeći naprednu AI tehnologiju. Ova inovacija otvara nove puteve u zabavi, obrazovanju, marketingu i društvenim mrežama. Međutim, uprkos njenom obećanju, nedavni događaji izazvali su značajne sigurnosne i etičke zabrinutosti vezane za medije generirane AI-jem. Ubrzo nakon objavljivanja Sore, Reality Defender, kompanija koja se specijalizovala za prepoznavanje deepfakeova i manipulisanih medija, otkrila je da sigurnosne mjere aplikacije, osmišljene za sprječavanje zloupotrebe javnih snimaka, mogu biti zaobiđene unutar 24 sata. Korištenjem javno dostupnih videa poznatih ličnosti, Reality Defender je napravio uvjerljive deepfake videe koji su zaobišli sistem provjere OpenAI-ja. Ovaj brz povrat je prikazao koliko lako trenutne metode autentifikacije mogu biti nadjačane odlučnim lošim akterima. S obzirom na obilje javnog sadržaja dostupnog na internetu, stvaranje realističnih, ali lažnih videa postalo je znatno jednostavnije, što izaziva strahove od dezinformacija, manipulacije javnim mnijenjem i pada povjerenja u digitalne medije. Stručnjaci za AI, sajber sigurnost i digitalnu etiku izrazili su ozbiljne zabrinutosti. Dr.

Elaine Thompson, vodeća etičarka u oblasti AI-ja, napomenula je da, iako su tehnologije poput Sore impresionirajuće, donose nove odgovornosti; snažni alati za identifikaciju i etički vodiči su neophodni da spriječe zloupotrebu i odrede granice koristi. Industrijski stručnjaci ističu da, dok se tehnologije deepfake-a brzo razvijaju, strategije za njihovo otkrivanje i ublažavanje moraju ići u korak. Zalažu se za saradnju između developera AI-ja, sigurnosnih stručnjaka, donositelja odluka i civilnog društva s ciljem uspostavljanja standarda za odgovornu upotrebu tehnologija poput Sore. Kao odgovor na ove nalaze, OpenAI je obećao da će pojačati sigurnost Sore istraživanjem naprednih metoda provjere, poput višefaktorske autentifikacije, digitalnih vodotiska unutar generisanih sadržaja i analizom ponašanja radi bolje diferencijacije stvarnih i sintetičkih snimaka. Postoji sve veći konsenzus o potrebi uspostavljanja nacionalnih i međunarodnih regulativa. Odnosni političari se pozivaju da uspostave jasna pravila za kreiranje, distribuciju i označavanje medija generiranih AI-em, da odrede odgovornost za zloupotrebu i osiguraju transparentnost radi zaštite individualnih prava i javnih interesa. Izazovi koje donosi AI-generisani sadržaj prostiru se i na društvene i filozofske sfere. Jednostavnost proizvodnje uvjerljivih lažnih snimaka izaziva tradicionalne ideje o dokazima i autentičnosti, što potiče pozive na povećanje medijske pismenosti i javne svijesti kako bi pojedinci kritički procjenjivali digitalni sadržaj. Razvijaju se obrazovni programi koji će podučavati studente o rizicima AI-generisanog sadržaja i načinu prepoznavanja pouzdanih izvora, s ciljem izgradnje informirane javnosti sposobne za navigaciju kroz brze tehnološke promjene. Suradnja između tehnoloških firmi i provjeravača informacija također je od ključnog značaja. Kreiranjem zajedničkih baza podataka provjerenih sadržaja i korištenjem automatiziranih alata za otkrivanje sumnjivih materijala, digitalni medijski ekosistem može ojačati svoju otpornost protiv manipulacija. U zaključku, aplikacija Sora od OpenAI-ja predstavlja veliki iskorak u razvoju AI-generisanog sadržaja, donoseći uzbudljive mogućnosti i značajne izazove. Brza zaobiđba odbrane Sore od strane Reality Defender ističe hitnu potrebu za poboljšanjem sigurnosti, etičkih okvira i regulative. Rješavanje ovih složenih problema zahtijeva zajednički napor raznih dionika kako bi se uskladila inovacija s odgovornošću, osiguravajući da napredak u AI medijima ostane u granicama povjerenja i integriteta našeg digitalnog svijeta.