Meta, kompania prindërore e Facebook-ut dhe Instagram-it, është përsëri nën vëzhgim për mënyrën se si trajton përmbajtjen e gjeneruar nga inteligjenca artificiale në platformat e saj. Këshilli i pavarur i Mbikëqyrjes së kompanisë ka rekomanduar fuqimisht që Meta të zhvillojë një politikë të gjerë dhe të dedikuar që trajton posaçërisht përmbajtjen e lidhur me AI-në. Kjo vjen pas një incidenti të madh ku një video e rreme e bërë me ndihmën e AI-së, që tregon ndërtesa të dëmtuara në Haifa gjatë një konflikti të parashikuar midis Izraelit dhe Iranit për vitin 2025, u bë virale, duke mashtruar shikuesit. Videoja mori mbi 700, 000 shikime përpara se Këshilli i Mbikëqyrjes të ndërhynte. Këshilli kritikoi Meta-n për mungesën e një shenjëje të qartë paralajmëruese që të rëndësishme për videon, e cila mund të kishte bërë të duket botuesve natyra e sajuar e saj. Për më tepër, Meta nuk arriti ta kufizojë ose ta hiqte në mënyrë të duhur përmbajtjen mashtruese, pavarësisht nga shenjat e përdoruesve dhe njohjes së gënjeshtrës së saj. Vendimi formal i Këshillit të Mbikëqyrjes theksoi hendekun e rëndësishëm në politikat aktuale të Metës për përmbajtjen me AI dhe nënvizoi se ky rast pasqyron një sfidë globale: përhapja e shpejtë e medias mashtruese të prodhuar nga AI që mund të mashtrojë miliona përdorues dhe të nxjerrë në pah shqetësime. Teknologjia avancuese e AI-së lejon krijimin e imazheve dhe videove shumë të ngjashme me realitetin, por të rreme plotësisht, duke sjellë një kërcënim të rëndësishëm për integritetin e informacionit në mediat sociale, ku vizualet shpesh ndikojnë shpejt dhe në mënyrë të gjerë në opinionin publik. Si një nga platformat më të mëdha në botë, Meta luan një rol kyç në shpërndarjen e informacionit dhe mbart përgjegjësinë e madhe për të vënë në dukje, etiketuar ose larguar përmbajtjen e gjeneruar nga AI në mënyrë që të frenojë dezinformimin. Ky incident tregon se masat ekzistuese janë të papërshtatshme, duke theksuar nevojën e menjëhershme për protokolle dhe mjete të përditësuara, të përshtatura për sfidat specifike të AI-së.

Këshilli i Mbikëqyrjes rekomandon që Meta të krijojë një kuadër politikash të veçantë, duke përcaktuar qartë përmbajtjen e krijuar nga AI dhe veprimet që duhet të ndërmerren kur ajo identifikohet. Kjo politikë duhet të përfshijë shpërndarjen e etiketave ose paralajmërimeve, të forcojë moderimin e përmbajtjes, të përmirësojë teknologjitë e zbulimit dhe të ruajë komunikim të hapur për rreziqet e manipulimit nga AI. Zhvillimi i tillë politikash është i domosdoshëm jo vetëm për të ruajtur besimin e përdoruesve, por edhe për të luftuar çështjet më të gjera të dezinformimit shoqëror. Përmbajtja e rremë e AI-së mund të rrisë tensionet gjeopolitike, të nxisë fushata dezinformuese dhe të dëmtojë proceset demokratike duke shpërndarë narrativa të rreme që duken mjaft të besueshme. Si përgjigje, Meta ka pranuar këto sfida dhe ka shprehur plane për të rishikuar dhe potencialisht përmirësuar politikat e saj të përmbajtjes për të trajtuar më mirë media të gjeneruara nga AI dhe për të forcuar mbrojtjen kundër dezinformimit. Incidenti i videos së Haifës shërben si një studim i rëndësishëm për mënyrën se si dezinformimi i bazuar në AI mund të përhapet shpejt online. Ai thekson nevojën për kompanitë e mediave sociale që të jenë vigjilente dhe të vazhdojnë të përditësojnë politikat dhe teknologjitë e tyre në mënyrë që të përballen me kërcënime gjithnjë në evoluim. Me rritjen e rolit të AI-së në krijimin e përmbajtjes, platformat si Meta kanë një përgjegjësi gjithnjë e më të rëndësishme për t’u menaxhuar dhe reduktuar risqet që lidhen me të. Zhvillimi dhe zbatimi i politikave të qarta dhe efektive për përmbajtjen e bazuar në AI është një hap kritik për të mbrojtur saktësinë dhe besueshmërinë e informacionit në mediat sociale dhe për të mbrojtur publikun nga mashtrimi në epokën digjitale.