Meta, morselselskapet til Facebook og Instagram, er igjen under kritikk for hvordan det håndterer AI-generert innhold på sine plattformer. Selskapets uavhengige tilsynsorgan, Oversight Board, har sterkt anbefalt at Meta utvikler en helhetlig og egen policy som spesifikt adresserer AI-relatert innhold. Dette følger etter en større hendelse hvor en falsk AI-generert video som viste ødelagte bygninger i Haifa under en forventet krig mellom Israel og Iran i 2025, spredte seg raskt og lurte seerne. Videoen fikk over 700 000 visninger før Oversight Board grep inn. Styret kritiserte Meta for ikke å ha brukt en tydelig og synlig advarsel på videoen, noe som kunne varslet brukere om at innholdet var fabrikert. I tillegg unnlot Meta å begrense eller fjerne det villedende innholdet tilstrekkelig, til tross for brukerrapporter og kjennskap til at det var feilaktig. Den formelle beslutningen fra Oversight Board fremhevet betydelige mangler i Metas nåværende retningslinjer for AI-innhold og understreket at denne hendelsen er et globalt problem: den raske spredningen av villedende AI-generert media som kan bedra millioner og bidra til uro. Utviklingen av AI-teknologi gjør det mulig å lage svært realistiske, men helt fabrikkerte bilder og videoer, noe som utgjør en alvorlig trussel mot informasjonsintegriteten på sosiale medier, hvor visuelle elementer ofte former den offentlige oppfatningen raskt og bredt. Som en av de største plattformene globalt, har Meta en avgjørende rolle i spredning av informasjon og bærer et betydelig ansvar for å merke, merke med advarsler eller fjerne AI-generert innhold for å motvirke feilinformasjon. Hendelsen viser at eksisterende tiltak er utilstrekkelige, og understreker behovet for oppdaterte prosedyrer og verktøy som er tilpasset AI-spesifikke utfordringer.

Oversight Board anbefaler at Meta oppretter en egen policy-rammeverk som tydelig definerer AI-generert innhold og hvilke tiltak som skal iverksettes ved identifisering. Denne politikken bør kreve åpenhet med tydelige merker eller advarsler, styrke innholdsmoderering, forbedre deteksjonsteknologier og opprettholde åpen kommunikasjon om risikoen for AI-manipulasjon. Utviklingen av en slik policy er avgjørende, ikke bare for å opprettholde brukertillit, men også for å bekjempe bredere samfunnsmessige problemer med feilinformasjon. Falskt AI-innhold kan forverre geopolitiske spenninger, bidra til desinformasjonskampanjer og undergrave demokratiske prosesser ved å spre falske, men troverdige narrativer. Meta har anerkjent disse utfordringene og har signalisert planer om å gjennomgå og eventuelt revidere sine innholdspolicyer for bedre å håndtere AI-generert media og forsterke arbeidet mot feilinformasjon. Hendelsen med videoen fra Haifa fungerer som et viktig casestudie på hvor raskt AI-drevet feilinformasjon kan spre seg på nettet. Den understreker behovet for at sosiale medie-selskaper forblir årvåkne og kontinuerlig oppdaterer sine policyer og teknologi i møte med stadig mer avanserte digitale trusler. Etter hvert som AI sin rolle i innholdsproduksjon øker, har plattformer som Meta et økende ansvar for å håndtere og redusere de tilknyttede risikoene. Utvikling og implementering av klare, effektive retningslinjer for AI-innhold er en kritisk nødvendighet for å sikre nøyaktighet og pålitelighet i informasjonen på sosiale medier, og for å beskytte offentligheten mot bedrag i den digitale tidsalderen.