Veštačka inteligencija je nedavno značajno napredovala, transformišući oblasti poput komunikacije, zabave i bezbednosti. Međutim, kao i svaka moćna tehnologija, zloupotreba AI predstavlja ozbiljne izazove. Jedna od zabrinjavajućih pojava je iskorišćavanje AI video aplikacija od strane prevaranata za sprovođenje sofisticiranih prevara i pokušaja identitetskog lažiranja, što ukazuje na uznemirujuću evoluciju u sajber kriminalu širom sveta. Nedavni primer je izdavanje iOS aplikacije Sora od strane OpenAI, koja koristi napredni model za generisanje video sadržaja kako bi korisnicima omogućila jednostavno kreiranje veoma realističnih AI-generisanih videa. Uprkos inovaciji, Sora sadrži kontroverznu opciju koja uklanja vodene žige—oznake koje su ugrađene u AI-kreirani sadržaj kako bi ga identifikovale kao veštački. Ovo uklanjanje otežava razlikovanje pravog sadržaja od deepfakeova, čime se povećava rizik od obmanjivanja. Stručnjaci upozoravaju da ovi alati mogu pogoršati već postojeći problem. Prevare zasnovane na lažnim identitetima bile su u porastu čak i pre pojave dostupnih AI video generatora, uzrokujući velike štete pojedincima i organizacijama i narušavajući poverenje u digitalnu komunikaciju. Sada prevaranti mogu koristiti naprednu manipulaciju video i audio sadržajima kako bi kreirali izuzetno uvjerljive deepfakeove koji oponašaju lica i glasove pravih ljudi. Takvi falsifikati mogu da imitiraju izvršne direktore, zvaničnike, poznate ličnosti ili obične ljude, olakšavajući prevare, dezinformacije, krađu identiteta i ucene. Da bi se tome suprotstavile, platforme poput Meta AI ograničavaju određene funkcionalnosti—na primer, izbegavaju cloniranje glasa kako bi smanjile rizik od identitetskih prevara. Ipak, mnoge AI primene i dalje nude široke mogućnosti za kloniranje glasa i lica, čime se povećava potencijal za veće razmere i efikasnost prevare. Ove opcije posebno zamagljuju granice između autentičnih i falsifikovanih medija, što otežava detekciju čak i za stručnjake bez specijalizovanih alata. Firmi za bezbednost, poput GetReal Security i Sophos, ističu široku i rastuću pretnju od AI-om potpomognutih prevara.

Njihova istraživanja pokazuju trend porasta prevare pomoću AI-generisanog videa i audija, često targetirajući preduzeća i javne ličnosti. Upozoravaju da, kako AI tehnologija brzo napreduje, tradicionalni bezbednosni sistemi mogu biti nedovoljni, te je potrebno preduzeti proaktivne strategije kao što su napredni algoritmi za detekciju i sveobuhvatna digitalna pismenost za smanjenje rizika. Zanimljivo je da OpenAI ističe da je njihov široko korišćen alat ChatGPT češće korišćen za otkrivanje prevara nego za njihovo stvaranje, što ilustruje dvostruku ulogu AI: dok omogućava novim prevarantima, istovremeno pojačava sposobnosti odbrambenih stranaka da prepoznaju prevare. Međutim, skalabilnost i automatizacija prevara zasnovanih na AI i dalje predstavljaju veliki problem. Mogućnost masovne proizvodnje uvjerljivih deepfakeova uz minimalan trud može izazvati porast prevara ukoliko mere zaštite zaostatke za razvojem tehnologije. Ova situacija otkriva da je ljudstvo tek na početku razvojne putanje AI. Kako se ove tehnologije budu razvijale, održavanje ravnoteže između korisnih i štetnih primena biće složen i dinamičan izazov. Pažnja developera, stručnjaka za sigurnost, zakonodavaca i javnosti od ključnog je značaja. Etički razvoj, transparentne prakse i robusni sigurnosni protokoli ključni su za minimiziranje štete i maksimiziranje društvenih koristi od AI. Ukratko, aplikacije poput Sora od OpenAI predstavljaju kako uzbudljiv napredak u tehnologiji, tako i izazove u digitalnoj sigurnosti. Kako alati za generisanje videa pomoću AI postaju pristupačniji i sofisticiraniji, njihova zloupotreba u prevarama i pokušajima identitetskog lažiranja rapidly raste. Rešenje ovih problema zahteva sveobuhvatan pristup koji obuhvata tehnološke inovacije, regulatorni nadzor, edukaciju i saradnju. Povećanjem svesti i spremnosti društvo može bolje upravljati ovim novim okruženjem sajber bezbednosti i zaštititi pojedince i organizacije od sve ubedljivijih AI-om vođenih prevara.