Dohliadka, nezávislý orgán spojený s Meta, ostro kritizoval súčasné politiky Meta týkajúce sa obsahu s deepfakeami a uviedol, že nedostatočne reagujú na rýchle šírenie videí generovaných umelou inteligenciou na jej platformách. Orgán poukazuje na zásadné nedostatky v prístupe Meta k boju proti pokročilým syntetickým médiám, najmä počas citlivých období, ako sú krízy a voľby. Momentálne Meta heavily závisí od používateľov, aby identifikovali a označili obsah vytvorený umelou inteligenciou, avšak orgán zistil, že tento systém je nedostatočný, pretože realistické deepfake videá môžu rýchlo kolovať, kým si ich používatelia všimnú alebo označia. To predstavuje vážne riziko počas politických alebo sociálnych nepokojov, keď zavádzajúci obsah môže skresliť verejné vnímanie a ovplyvniť dôležité udalosti. Táto kritika nasledovala po kontrole incidentu, pri ktorom bola vytvorená falošná AI-generovaná správa zobrazujúca ničenie v Izraeli, čo odhalilo závažné chyby v schopnosti Meta detegovať deepfake a potrebu posilnených, proaktívnych politík. Rozšírené šírenie tohto videa ukázalo, aké ľahko sa sofistikovaný falošný obsah môže vyhnúť súčasným opatreniam. V reakcii Dohliadací orgán vyzýva Meta, aby komplexne prepracovala svoje politiky týkajúce sa syntetických médií vytvorených umelou inteligenciou. Uznávajúc, že generatívne AI technológie uľahčili tvorbu realistických videí, obrázkov a zvukov, orgán zdôrazňuje, že rozlíšenie pravého obsahu od falzifikátov sa stalo čoraz zložitejším, čo zvyšuje riziko nekontrolovanej dezinformácie. Orgán volá po tom, aby platformy ako Meta a podobné zdokonalili ochranné opatrenia, vrátane vývoja pokročilých detekčných technológií schopných identifikovať syntetický obsah čo najskôr—ideálne ešte predtým, než získa dôveru používateľov. Tiež sa kladie dôraz na transparentnosť voči používateľom ohľadom povahy a pôvodu obsahu. Okrem zodpovednosti platforiem zdôrazňuje orgán kľúčovú úlohu používateľov v boji proti dezinformáciám, vyzýva ich, aby využívali overovacie nástroje ako chatbota a konzultovali viacero zdrojov faktCheckingu skôr, než zdieľajú podozrivý obsah.

Táto viacvrstvová stratégia má za cieľ posilniť používateľov ako aktívnych obrancov integrity online informácií. Rýchly vývoj technológií AI naďalej predstavuje výzvu pre platformy sociálnych médií. Generatívna AI teraz tvorí obsah, ktorý je vizuálne, zvukovo a kontextuálne presvedčivý, čo vyžaduje prispôsobené politiky schopné riešiť nové hrozby bez obmedzenia inovácie či slobody prejavu. Vzhľadom na globálny vplyv a dosah Meta, jej politiky vytvárajú dôležité precedenty pre odvetvie. Kritika Dohliadacieho orgánu slúži ako významný podnet pre Meta na prehodnotenie svojho postoja a stratégií voči syntetickým médiám. Na záver, riešenie deepfakeov a dezinformácií generovaných umelou inteligenciou si vyžaduje koordinované úsilie platforiem, tvorcov politík, technológov a používateľov. Posilnenie detekčných schopností, podpora inovácií v politikách a zvýšenie povedomia používateľov sú základnými prvkami účinnej reakcie. Ako sa dezinformácie poháňané AI stávajú stále sofistikovanejšími, kolektívna zodpovednosť za zachovanie pravdy a presnosti online informácií sa stáva čoraz naliehavejšou. Meta ešte verejne neodpovedala na odporúčania orgánu, no tento incident a jeho hodnotenie zdôrazňujú naliehavú potrebu rozhodných krokov na posilnenie odolnosti proti dezinformáciám poháňaným AI.