Umjetna inteligencija nedavno je značajno napredovala, transformirajući područja poput komunikacije, zabave i sigurnosti. Međutim, poput svake moćne tehnologije, zloupotreba AI-a donosi ozbiljne izazove. Značajan je problem što prevaranti koriste AI aplikacije za videoprodukciju za izvođenje sofisticiranih prijevara i prikrivanja, što signalizira zabrinjavajuće evolucije u cyberkriminalu koja alarmira sigurnosne stručnjake diljem svijeta. Nedavni primjer je izdanje OpenAI-jeve Sora iOS aplikacije, koja koristi napredni model za generiranje videa kako bi korisnicima omogućila jednostavno stvaranje vrlo realističnih AI-generiranih videa. Unatoč inovaciji, Sora uključuje kontroverznu funkciju uklanjanja vodnih žigova—značajki koja unutar sadržaja stavljena je za identifikaciju da je umjetno. Ovaj proces komplicira razlikovanje pravog sadržaja od dubokopija, čime se povećava rizik od prijevare. Stručnjaci upozoravaju da ti alati mogu pogoršati već postojeći problem. Prevare s lažnim predstavljanjem bile su u porastu i prije pojave dostupnih AI videogeneratora, uzrokujući velike financijske gubitke pojedincima i organizacijama te narušavajući povjerenje u digitalnu komunikaciju. Sada, prevaranti mogu koristiti napredne manipulacije videom i zvukom kako bi proizveli izuzetno uvjerljive dubokopije koje oponašaju lice i glas stvarnih osoba. Takve lažnjake mogu predstavljati izvršne direktore, dužnosnike, slavne osobe ili obične ljude, s ciljem prijevare, širenja dezinformacija, krađe identiteta i ucjene. Za borbu protiv toga, platforme poput Meta AI ograničavaju određene funkcionalnosti—primjerice, izbjegavaju kloniranje glasa kako bi smanjile rizik od preuzimanja lažnog identiteta. Ipak, mnoge AI aplikacije i dalje nude široke mogućnosti kloniranja glasa i lica, čime se povećava potencijal za obmanu i učinkovitost prijevara. Ove značajke posebno otežavaju razlikovanje između autentičnih i izmišljenih medija, čak i za stručnjake bez specijaliziranih alata. Sigurnosne tvrtke poput GetReal Security i Sophos ističu široku i sve veću opasnost od prijevara putem AI-radiđenih videa i zvuka.

Njihova istraživanja pokazala su porast u prevarama koje koriste AI-generirane sadržaje, često usmjerene prema tvrtkama i poznatim osobama. Upozoravaju da s brzim razvojem AI tehnologije, tradicionalne sigurnosne mjere možda neće biti dovoljne, pa je potrebna proaktivna strategija uključujući napredne detektivne algoritme i opsežnu edukaciju o digitalnoj pismenosti za smanjenje rizika. Zanimljivo je napomenuti da OpenAI ističe kako je njihov široko korišteni alat ChatGPT češće pomagao u otkrivanju prijevara nego u njihovu izvršenju, što ilustrira dvostruku ulogu AI-a: dok omogućava nove prijetnje, također poboljšava sposobnosti zaštitara u detekciji obmana. Međutim, skalabilnost i automatizacija AI-krivotvorina i dalje predstavljaju velike brige. Mogućnost masovne proizvodnje uvjerljivih dubokopija s minimalnim naporom mogla bi izazvati snažan porast prevara ako mjere zaštite zaostaju. Ova situacija pokazuje da je čovječanstvo i dalje u ranoj fazi razvoja AI tehnologije. Kako se te tehnologije budu razvijale, balansiranje između korisnih i zlonamjernih primjena bit će složen, dinamičan izazov. Ključni su nadzor i sudjelovanje svih—razvojnih stručnjaka, sigurnosnih profesionalaca, kreatora politika i javnosti. Etički razvoj, transparentne prakse i snažni sigurnosni protokoli ključni su za smanjenje štete i maksimiziranje društvenih koristi AI-a. Ukratko, aplikacije poput OpenAI-jevog Sora primjera su uzbudljivog tehnološkog napretka, ali i značajnih izazova u području digitalne sigurnosti. Kako alati za AI-generirane videomaterijale postaju dostupniji i sofisticiraniji, njihova zloupotreba za prevare i prikrivanja jasno raste. Rješavanje ovih problema zahtijeva sveobuhvatan pristup koji uključuje tehnološke inovacije, regulatorni nadzor, edukaciju i suradnju. Povećavanjem svijesti i pripravnosti, društvo može bolje upravljati ovim novim izazovima u cyber sigurnosti i zaštititi pojedince i organizacije od sve uvjerljivijih AI-krivotvorina.