Meta, mateřská společnost Facebooku a Instagramu, je opět pod drobnohledem kvůli svému zacházení s AI-generovaným obsahem na svých platformách. Nezávislá Rada dohledu společnosti důrazně doporučila, aby Meta vypracovala kompletní, specializovanou politiku, která se bude výslovně zabývat obsahem souvisejícím s umělou inteligencí. Toto opatření přichází po velkém incidentu, kdy se virálně šířilo falešné video s AI, na kterém byly zachyceny poškozené budovy v Haifě během plánovaného konfliktu mezi Izraelem a Íránem v roce 2025, což zmatek způsobilo u diváků. Video mělo přes 700 000 zhlédnutí, než zasáhla Rada dohledu. Rada kritizovala Meta za to, že na video nevystavila jasné a výrazné varování, které by mohlo uživatele upozornit na jeho umělou povahu. Kromě toho Meta nedůsledně omezila nebo neodstranila klamavý obsah, přestože uživatelé hlásili a rozpoznali jeho nepravdivost. Oficiální rozhodnutí Rady dohledu zdůraznilo významné mezery v současných politikách Meta týkajících se obsahu generovaného umělou inteligencí a upozornilo na to, že incident odráží globální výzvu: rychlé šíření zavádějícího mediálního obsahu vytvářeného AI, který může oklamat miliony lidí a podnítit nepokoje. Pokrok v technologii AI umožňuje vytvářet velmi realistické, ale úplně vymyšlené obrázky a videa, čímž představuje zásadní hrozbu pro integritu informací na sociálních sítích, kde obrazy často rychle a široce ovlivňují veřejné mínění. Jako jedna z největších platforem na světě má Meta klíčovou roli v šíření informací a nese významnou odpovědnost za správné označování, označení nebo odstranění obsahu generovaného umělou inteligencí, čímž chce omezit dezinformace. Incident odhalil, že stávající opatření jsou nedostatečná, což zdůrazňuje naléhavou potřebu aktualizovat protokoly a nástroje přizpůsobené specifickým výzvám AI.

Rada dohledu doporučuje, aby Meta zavedla specializovaný rámec politiky, který jasně definuje obsah vytvářený AI a stanoví kroky při jeho identifikaci. Tato politiky by měla vyžadovat zřejmé označení nebo varovné štítky, posílit moderaci obsahu, zlepšit detekční technologie a zachovat transparentní komunikaci o rizicích manipulace pomocí AI. Tento vývoj politiky je nezbytný nejen k udržení důvěry uživatelů, ale také k boji proti širším problémům dezinformací ve společnosti. Falešný obsah generovaný AI může zhoršovat geopolitické napětí, podporovat dezinformační kampaně a oslabovat demokratické procesy šířením falešných, ale důvěryhodně vypadajících narativů. Na tyto výzvy reagovala Meta přiznáním těchto problémů a naznačila plány na přehodnocení a případné revize svých politik týkajících se obsahu vytvářeného AI, aby lépe řešila otázky dezinformací a posílila opatření proti nim. Incident s videem v Haifě slouží jako klíčový případ ukazující, jak rychle se může šířit dezinformace řízená umělou inteligencí online. Zdůrazňuje nutnost, aby sociální sítě zůstávaly ostražité a průběžně aktualizovaly své politiky a technologie v reakci na stále se vyvíjející digitální hrozby. Jak se role AI při tvorbě obsahu rozšiřuje, platformy jako Meta nesou čím dál větší odpovědnost za jejich řízení a minimalizaci rizik s tím spojených. Vytváření a zavádění jasných a efektivních politik týkajících se obsahu AI je klíčovým krokem k ochraně přesnosti a důvěryhodnosti informací na sociálních sítích a k ochraně veřejnosti před klamáním v digitálním věku.