U rujnu 2025. godine, OpenAI je pokrenuo aplikaciju Sora, revolucionarnu platformu koja omogućava korisnicima stvaranje videa s izrazito realističnim prikazima sebe ili drugih pomoću napredne AI tehnologije. Ova inovacija otvara nove mogućnosti u zabavi, obrazovanju, marketingu i društvenim mrežama. Međutim, unatoč obećanjima, nedavni događaji izazvali su ozbiljne sigurnosne i etičke zabrinutosti u vezi s medijima koje generira umjetna inteligencija. Neposredno nakon objave Sore, tvrtka Reality Defender, specijalizirana za otkrivanje deepfakeova i manipuliranih medija, otkrila je da sigurnosne mjere aplikacije, namijenjene sprječavanju zloupotrebe javno dostupnih snimki, mogu biti zaobiđene unutar 24 sata. Korištenjem javno dostupnih videa poznatih osoba, Reality Defender je napravio uvjerljive deepfake videa koji su zaobišli sustave provjere OpenAI-ja. Ovaj brzi proboj ilustrira koliko su trenutne metode autentifikacije lako zaobiđive od strane odlučnih zlonamjernika. S obzirom na obilje javnog sadržaja na internetu, stvaranje realističnih, ali lažnih videa postalo je mnogo jednostavnije, što izaziva strahove od dezinformacija, manipulacije javnim mišljenjem i pada povjerenja u digitalne medije. Stručnjaci za umjetnu inteligenciju, kibernetiku i digitalnu etiku izrazili su ozbiljne brige. Dr.

Elaine Thompson, vodeća etičarka za AI, istaknula je da tehnologije poput Sore, iako impresivne, donose nove odgovornosti; snažni alati za otkrivanje i etički smjernice nužni su kako bi spriječili zloupotrebu i nadmašili koristi. Industrijski stručnjaci naglašavaju da kako AI tehnologije za izradu deepfakeova brzo napreduju, tako i strategije za njihovo otkrivanje i ublažavanje moraju evoluirati jednako brzo. Zalažu se za suradnju između developera AI-ja, stručnjaka za sigurnost, donositelja politika i civilnog društva u postavljanju standarda za odgovornu uporabu takvih tehnologija. Kao odgovor na ove nalaze, OpenAI je najavio jačanje sigurnosnih mjera za Soru, istraživanjem naprednih metoda provjera, poput višefaktorske autentifikacije, digitalnih zaštitnih marki unutar generiranog sadržaja te analize ponašanja za bolju diferencijaciju između pravog i sintetičkog videa. Sve je veći konsenzus o potrebi za nacionalnim i međunarodnim regulativama. Odnosni će se zakonodavci pozvati da uspostave jasna pravila za stvaranje, distribuciju i označavanje AI-generiranih medija, definiraju odgovornosti za zloupotrebu te osiguraju transparentnost radi zaštite pojedinačnih prava i javnih interesa. Izazovi koje donosi AI-generirani sadržaj prostiru se i na društvene i filozofske sfere. Lakost izrade uvjerljivih lažnjakova izaziva tradicionalne koncepcije dokaza i autentičnosti, potičući pozive za povećanjem medijske pismenosti i javne svijesti, kako bi pojedinci mogli kritički ocijeniti digitalne sadržaje. Razvijaju se obrazovni programi s ciljem educiranja učenika o rizicima AI-generiranog sadržaja i načinu prepoznavanja pouzdanih izvora, čime se nastoji izgraditi informirana javnost sposobna snalaženja u brzim tehnološkim promjenama. Suradnja između tehnoloških tvrtki i provjeravatelja činjenica također pokazuje ključnu ulogu. Kreiranjem zajedničkih baza podataka verificiranog sadržaja i korištenjem automatiziranih alata za otkrivanje sumnjivog materijala, digitalni ekosustav medija može povećati svoju otpornost na manipulacije. Zaključno, aplikacija Sora od OpenAI-ja predstavlja važnu prekretnicu u području AI-generiranog sadržaja, nudeći uzbudljive mogućnosti uz značajne izazove. Brza prevladavanja sigurnosnih barijera od strane Reality Defendera naglašavaju hitnost poboljšanja sigurnosti, etičkog okvira i regulacije. Rješavanje ovih složenih problema zahtijeva suradnju raznolikih dionika u cilju usklađivanja inovacija s odgovornošću, osiguravajući da napredak u AI medijima ne naruši povjerenje i integritet našeg digitalnog svijeta.