Meta, Facebooki ja Instagrami emahooldusettevõte, satub jälle kriitilisteks uuringuteks seoses oma lähenemisega loodud AI-sisule platvormidel. Ettevõtte sõltumatu Järelevalvakoht on tungivalt soovitanud Meta-l välja töötada põhjaliku ja pühendunud poliitika, mis käsitleb spetsiaalselt AI-ga seotud sisu. See järgneb suurele intsidentile, kus võlts AI-ga loodud video, mis näitas kahjustatud hooneid Haifas ning oli seotud 2025. Iisraeli-Iran konflikti eeldetailidega, läks viiruslikult ning petis kasutajaid. Video kogus üle 700 000 vaatamise enne, kui Järelevalvakoht sekkus. Johtkond kritiseeris Meta-d selle eest, et nad ei rakendanud videos selget ning silmatorkavat hoiatust, mis oleks võinud kasutajaid informeerida selle võltsitud sisust. Lisaks ei piiranud Meta piisavalt ega eemaldanud petlikku sisu, hoolimata kasutajate teadetest ja selle vale olemuse tunnustamisest. Järelevalvakohtu ametlik otsus rõhutas märkimisväärseid lünki Meta praegustes AI-sisu poliitikates ning nimetas juhtumit globaalsete väljakutsete ilminguks: valeinformatsiooni levik AI abil, mis võib petta miljoneid ning tekitada rahutusi. Tõhusama AI tehnoloogia areng võimaldab luua väga realistlikke aga täielikult fiktiivseid pilte ja videoid, mis kujutavad endast olulist ohtu teabe terviklikkusele sotsiaalmeedias, kus visuaalne sisu mõjutab avalikku arvamust kiirelt ja laialdaselt. Üks maailma suurimaid platvorme Meta mängib võtmerolli teabe levitamises ning kannab olulist vastutust AI-ga loodud sisu märgistamise, hoiatamise või eemaldamise eest, et ohjata valeinformatsiooni levikut. Juhtum näitab, et olemasolevad meetmed on ebapiisavad ning rõhutab hädavajalikkust ajakohastada protokolle ja tööriistu, mis on kohandatud AI spetsiifilistele väljakutsetele.

Järelevalvakoht soovitab Meta-l kehtestada pühendatud poliitikaraamistik, mis selgelt määratleb AI-ga loodud sisu ning käsitleb tegevusi selle tuvastamisel. See poliitika peaks nõudma läbivalgustamist või hoiatust, tugevdama sisuanalüüsimeetmeid, täiustama tuvastustehnoloogiaid ning säilitama läbipaistvat suhtlust AI manipuleerimise riskide kohta. Sellise poliitika väljatöötamine on hädavajalik mitte ainult kasutajate usalduse säilitamiseks, vaid ka laiemate ühiskondlike valeinformatsiooni probleemide vastamiseks. Vale AI-sisu võib suurendada geopoliitilisi pingeid, toita valeuudiste kampaaniaid ning kahjustada demokraatlikke protsesse, levitades usaldusväärse välimusega valesid narratiive. Sellele vastates on Meta tunnustanud neid väljakutseid ning plaanib vaadata üle ning vajadusel täiustada oma sisu poliitikaid, et paremini käsitleda AI loodud meediat ja tugevdada valedeleviku vastaseid meetmeid. Haifa videosündmus on oluline näide, kuidas kiiresti AI-põhine valeinfo võib levima hakata internetis. See rõhutab sotsiaalmeedia ettevõtete vajadust olla valvekaelas ning pidevalt uuendada oma poliitikaid ja tehnoloogiaid digiaja muutuvas ohupildis. Kuna AI roll sisu loomisel jätkuvalt kasvab, omavad platvormid nagu Meta üha suuremat vastutust selle riskide juhtimisel ja vähendamisel. Selgete ning tõhusate AI-sisu poliitikate arendamine ning rakendamine on kriitilise tähtsusega, et kaitsta teavet õigsuse ja usaldusväärsuse eest ning hoida avalikkus petmise eest digitaalses ajastus.