A Meta, a Facebook és az Instagram anyavállalata ismételten vizsgálat alá került az AI által generált tartalom kezelésével kapcsolatban platformjain. A vállalat független Felügyeleti Tanácsa határozottan javasolta, hogy a Meta alakítson ki átfogó, külön szabályzatot kifejezetten az AI-vel kapcsolatos tartalmakra. Ez egy jelentős esemény után történt, amikor egy hamis, AI által generált videó terjedt el, amelyben Haifa károsodott épületeit ábrázolták egy 2025-ös Izrael-Észt háború során, és ezzel félrevezették a nézőket. A videó több mint 700, 000 megtekintést ért el, mielőtt a Felügyeleti Tanács beavatkozott. A tanács bírálta a Meta-t, mert nem helyezett el egyértelmű, feltűnő figyelmeztető címkét a videóra, amivel a felhasználókat figyelmeztethette volna annak hamis jellegére. Emellett a Meta nem korlátozta vagy távolította el megfelelően a félrevezető tartalmat, annak ellenére, hogy a felhasználók jelezték vagy elismerték tartalom hamis voltát. A Felügyeleti Tanács hivatalos döntése kiemelte, hogy a Meta jelenlegi AI-tartalom szabályozásában jelentős hiányosságok vannak, és hangsúlyozta, hogy ez az eset egy globális kihívást tükröz: a félrevezető AI által készített médiatartalom gyors terjedését, ami milliókat téveszthet meg és lázadást szíthat. Az egyre fejlettebb AI-technológia lehetővé teszi rendkívül valósághű, de teljesen kitalált képek és videók létrehozását, ami súlyos fenyegetést jelent az információk integritására a közösségi médiában, ahol a vizuális tartalmak gyakran gyorsan és széles körben befolyásolják a közvéleményt. A világ egyik legnagyobb platformjaként a Meta kulcsszerepet játszik az információk terjesztésében, és jelentős felelőssége van abban, hogy megfelelően kezelésbe vegye az AI által generált tartalmakat, azok megjelölésével, címkézésével vagy eltávolításával ellensúlyozva az álhíreket. Ez az eset rávilágít arra, hogy a meglévő intézkedések nem elegendőek, és sürgősen szükség van naprakész protokollokra és eszközökre, amelyek kifejezetten az AI-specifikus kihívásokat célozzák meg.

A Felügyeleti Tanács javasolja, hogy a Meta alakítson ki egy dedikált szabályozási keretrendszert, amely világosan meghatározza az AI-vel generált tartalmakat és az azokra adott intézkedéseket. Ez a szabályzat írja elő a kötelező diszfunkciós vagy figyelmeztető címkék alkalmazását, erősíti a tartalom moderálását, fejleszti a felismerő technológiákat, és átlátható kommunikációt tart fenn az AI manipulációs kockázatairól. Az ilyen szabályozási keret kialakítása elengedhetetlen nemcsak a felhasználói bizalom fenntartásához, hanem a társadalmi szinten jelentkező álhírek elleni küzdelemhez is. A hamis AI-tartalom növelheti a geopolitikai feszültségeket, táplálhat félretájékoztatási kampányokat, valamint alááshatja a demokratikus folyamatokat hitelesnek tűnő hamis narratívák terjesztésével. Ennek eredményeként a Meta elismerte ezeket a kihívásokat, és tervezi felülvizsgálni, illetve szükség esetén módosítani tartalom-politikáját, hogy hatékonyabban kezelje az AI által generált médiát és erősítse az álhírek elleni védelmet. A Haifa videó esete alapvető tanulmányként szolgál arra, hogyan terjedhet gyorsan az AI-alapú félretájékoztatás az interneten. Rávilágít arra, hogy a közösségi média cégeinek ébernek kell maradniuk, és folyamatosan frissíteniük kell politikáikat és technológiáikat a digitális fenyegetések változó környezetében. Mivel az AI szerepe a tartalomkészítésben növekszik, a platformok, például a Meta, egyre nagyobb felelősséget viselnek a hozzá kapcsolódó kockázatok kezelésében és mérséklésében. Világos és hatékony AI tartalom-politikák kidolgozása és megvalósítása létfontosságú lépés a digitális korszakban az információk pontosságának és megbízhatóságának védelmében, valamint a közvélemény védelmében a megtévesztéstől.