Meta, selskabet bag Facebook og Instagram, er igen under vurdering for sin håndtering af AI-generatoreret indhold på sine platforme. Selskabets uafhængige Tilsynsbestyrelse har kraftigt anbefalet, at Meta udvikler en omfattende, dedikeret politik, der specifikt adresserer AI-relateret indhold. Dette følger et større tilfælde, hvor en falsk AI-genereret video, der viste beskadigede bygninger i Haifa under en forventet konflikt mellem Israel og Iran i 2025, blev viral og vildledte seere. Videoen fik over 700. 000 visninger, før Tilsynsbestyrelsen greb ind. Bestyrelsen kritiserede Meta for ikke at have anvendt en klar og synlig advarsel om, at videoen var fiktiv, hvilket kunne have advaret brugerne. Derudover undlod Meta at restriktivt eller fjerne det vildledende indhold passende, på trods af brugerrapporter og erkendelse af dets falskhed. Det formelle beslutningsdokument fra Tilsynsbestyrelsen fremhævede betydelige mangler i Metas nuværende politikker for AI-indhold og understregede, at hændelsen afspejler en global udfordring: den hurtige spredning af vildledende medier produceret af AI, som kan narre millioner og skabe uro. Fremdriften inden for AI-teknologi muliggør skabelsen af yderst realistiske, men helt fabrikerede billeder og videoer, hvilket udgør en kritisk trussel mod informationsintegriteten på sociale medier, hvor visuelle medier ofte påvirker den offentlige mening hurtigt og bredt. Som en af de største platforme globalt spiller Meta en afgørende rolle i informationsspredning og har et betydeligt ansvar for at mærke, mærke tydeligt eller fjerne AI-genereret indhold for at begrænse misinformation. Hændelsen viser, at eksisterende foranstaltninger er utilstrækkelige, og understreger det presserende behov for opdaterede procedurer og værktøjer, der er tilpasset AI-specifikke udfordringer.

Tilsynsbestyrelsen anbefaler, at Meta etablerer en dedikeret politikramme, der klart definerer AI-genereret indhold, og angiver handlinger, når dette identificeres. Denne politik bør kræve tydelig offentliggørelse eller advarselsmærker, forstærke moderationsindsatsen, forbedre detekteringsteknologier og opretholde gennemsigtig kommunikation om risikoen ved AI-manipulation. Udviklingen af sådan politik er afgørende for ikke blot at opretholde brugerens tillid, men også for at bekæmpe bredere samfundsmæssige problemer med misinformation. Falsk AI-indhold kan forværre geopolitiske spændinger, fyre misinformation-kampagner og underminere demokratiske processer ved at sprede troværdigt udseende falske fortællinger. Som reaktion på dette har Meta anerkendt udfordringerne og planlægger at gennemgå og eventuelt revidere sine politikker for indhold for bedre at imødegå AI-genereret medier og styrke foranstaltninger mod misinformation. Hændelsen med Haifa-videoen tjener som et centralt eksempel, der viser, hvor hurtigt AI-drevet misinformation kan sprede sig online. Det understreger nødvendigheden af, at sociale medievirksomheder forbliver årvågne og løbende opdaterer deres politikker og teknologier i takt med de digitale trusler. Efterhånden som AI får større rolle i indholdsproduktion, har platforme som Meta et stadigt vigtigere ansvar for at håndtere og mindske de tilhørende risici. Udarbejdelse og implementering af klare, effektive politikker for AI-indhold er et kritisk skridt til at beskytte informationsnøjagtigheden og pålideligheden på sociale medier samt at beskytte offentligheden mod bedrag i den digitale tidsalder.