Kako se digitalni krajolik brzo mijenja, tvrtke žestokoCompetiraju za dominaciju u novoj eri stvaranja sadržaja vođenoj generativnom umjetnom inteligencijom (AI). Te organizacije svoje AI modele promiču kao inovativne umjetničke platforme koje omogućuju korisnicima realizaciju kreativnih projekata od filmskih produkcija do maštovitih ili nekonvencionalnih pothvata. Međutim, porast generativnih alata za AI donosi izazove: osim autentičnog umjetničkog izraza, zlonamjerni glumci sve više koriste te tehnologije u svrhe varanja ili štetnih radnji. Prisustvo takvih zlonamjernika u ekosustavu sadržaja koji se generira putem AI već je uočljivo i sve se povećava. Storyful, vodeća svjetska agencija za vijesti koja se bavi provjerom sadržaja koji je korisnicima generiran, zabilježila je značajan porast videa koje generira AI na društvenim mrežama. Ovaj porast podudara se s važnim globalnim događajima i viralnim situacijama koje privlače široku pozornost. Konkretno, od početka nedavnog sukoba između Sjedinjenih Država, Izraela i Irana, Storyful bilježi dramatičan porast od 60 posto u zahtjevima za provjeru videa koji navodno povezuju s tim aktualnim vijestima. Ovaj trend ističe rastući potencijal AI-generiranog video sadržaja da utječe na javnu percepciju i informacijski krajolik tijekom kriza. Usprkos tim zabrinutostima, postoje i ohrabrujuće vijesti o trenutnoj generaciji AI alata za video. Vodeće platforme—OpenAI-jev uskoro povlačeni Sora 2, Googleova Veo 3. 1 i ByteDance-ova Seedance 2. 0—nude napredne mogućnosti koje nadmašuju ranije modele, ali i dalje dijele temeljne ranjivosti koje stvaraju kritične prilike za otkrivanje i provjeru. Svjesnost o tim slabostima važna je za stručnjake uključene u provjeru sadržaja, faktografsku provjeru i novinarstvo. Značajna promjena koju su donijeli ovi napreti u AI je povećana realističnost generiranih videa, sada dovoljno autentičnih da mogu izazvati široku viralnu distribuciju.

Ovaj napredak znači da su tradicionalni “crveni alarmi”—poput nelogičnih pokreta ruku, nesklada u rasvjeti ili iskrivljenih crta lica—manje zastupljeni ili znatno poboljšani. Kao rezultat toga, timovi za medijsku provjeru moraju usvojiti pažljivije, nijansirane metode, uključujući analizu po kadru, kako bi otkrili suptilne anomalije. Takva detaljna analiza uključuje traženje fizičkih nedosljednosti prikazanih u videu, razlika u tekstualnim elementima poput znakova ili titlova, problema sa sinkronizacijom između zvuka i slike te ključni nedostatak potpore, poput iskaza svjedoka ili neovisnih izvora. Ovaj slojeviti proces provjere ključno je oruđe u borbi protiv dezinformacija i očuvanju integriteta informacija koje se dijele javnosti. Važno je pristupiti brzom napretku generativne AI s oprezom i jasnoćom. Nije svako novo izdanje ili ažuriranje tehnologije razlog za bezuvjetni entuzijazam ni za izričito osuđivanje. Umjesto toga, dionici moraju smireno procijeniti stvarne mogućnosti i ograničenja tih alata. Takav uravnotežen pristup ključan je za opremanje novinarskih uredništava i timova za provjeru u učinkovitom snalaženju u promjenjivom krajoliku. Kako se generativna AI sve više integrira u mainstream kreiranje sadržaja, medijske organizacije moraju prioritetizirati razvoj čvrstih protokola provjere, ulaganje u edukaciju osoblja i promicanje medijske pismenosti među publikom. Ovi koraci pomoći će u smanjenju rizika od AI-generiranih dezinformacija i poticanju odgovorne, etičke uporabe ovih moćnih tehnologija. U konačnici, izazov nije samo u razvoju visokokvalitetnih alata za AI, već i u njegovanju ekosustava u kojem tehnološki napredak koegzistira sa strogim standardima istine i odgovornosti.