Meta, matična kompanija Facebooka i Instagrama, ponovo je na meti kritika zbog načina na koji upravlja sadržajem generisanim pomoću AI na svojim platformama. Nezavisni Nadzorni odbor kompanije snažno je preporučio da Meta razvije sveobuhvatnu, namensku politiku koja će posebno adresirati sadržaj vezan za AI. Ovo je usledilo nakon velikog incidenta u kojem je lažni video koji prikazuje oštećene zgrade u Haifi tokom predviđenog sukoba Izraela i Irana 2025. godine, postao viralan, dovodeći do zablude kod gledalaca. Video je prikupio više od 700. 000 pregleda pre nego što je Nadzorni odbor intervenisao. Odbor je kritikovao Meta zato što nije primenila jasan i istaknut upozoravajući label na video, koji bi mogao da upozori korisnike na njegovu lažnu prirodu. Pored toga, Meta nije dovoljno restriktivno ili efikasno uklonila ili označila obmanjujući sadržaj, uprkos prijavama korisnika i prepoznavanju njegove neistine. Formalnom odlukom Odbora istaknuti su značajni nedostaci u trenutnim politikama Meta vezanim za AI sadržaj i naglašeno je da incident odražava globalni izazov: brz širenje obmanjujućih medija proizvedenih pomoću AI, koji mogu zavarati milione i podstaći nemire. Napredak u razvoju AI tehnologije omogućava kreiranje veoma realističnih, ali potpuno izmišljenih slika i video snimaka, što predstavlja ozbiljnu pretnju integritetu informacija na društvenim mrežama, gde vizuali često brzo i široko utiču na javno mišljenje. Kao jedna od najvećih platformi na svetu, Meta ima ključnu ulogu u širenju informacija i snosi veliku odgovornost da odgovarajuće označi, obeleži ili ukloni sadržaj koji je generisan pomoću AI kako bi se sprečila dezinformacija. Incident otkriva da postojeće mere nisu dovoljne, te ističe hitnu potrebu za ažuriranjem protokola i alata prilagođenih izazovima specifičnim za AI.

Nadzorni odbor preporučuje da Meta uspostavi namenski okvir politika koji će jasno definisati sadržaj generisan pomoću AI i navesti konkretne mere koje je potrebno preduzeti kada se takav sadržaj identifikuje. Ova politika bi trebalo da obavezuje na obelodanjivanje ili upozorenja, pojačava moderaciju sadržaja, unapređuje tehnologije za detekciju i održava transparentnu komunikaciju o rizicima manipulacije pomoću AI. Razvoj i uspostavljanje takvih politika ključno je ne samo za očuvanje poverenja korisnika, već i za suzbijanje šireg društvenog problema dezinformacija. Lažni sadržaj napravljen pomoću AI može pogoršati geopolitičke tenzije, podstaći kampanje dezinformisanja i narušiti demokratske procese širenjem neistinitih narativa koji izgledaju verodostojno. Kao odgovor, Meta je priznala ove izazove i najavila planove za reviziju i potencijalno izmene svojih politika sadržaja radi boljeg adresiranja AI generisanih medija i jačanja zaštite od dezinformacija. Incident sa video snimkom u Hajfi predstavlja ključni slučaj koji pokazuje koliko brzo dezinformacije vođene pomoću AI mogu da se prošire online. On ističe potrebu da društvene mreže ostanu pažljive i kontinuirano ažuriraju svoje politike i tehnologije u svetlu očekivanih novih pretnji u digitalnom okruženju. Kako uloga AI u kreiranju sadržaja bude rasla, platforme poput Mete imaju sve veću odgovornost da upravljaju i smanjuju povezane rizike. Razvijanje i sprovođenje jasnih, efektivnih politika o sadržaju generisanom pomoću AI od suštinskog je značaja za očuvanje tačnosti i pouzdanosti informacija na društvenim mrežama i zaštitu javnosti od obmana u digitalnom dobu.