Meta, moderbolaget till Facebook och Instagram, är återigen under granskning för hur de hanterar AI-genererat innehåll på sina plattformar. Företagets oberoende Översiktsnämnd har starkt rekommenderat att Meta utvecklar en heltäckande, särskild policy som tydligt adresserar AI-relaterat innehåll. Detta följer på en storIncident där en falsk AI-genererad video som visade skadade byggnader i Haifa under en tänkt konflikt mellan Israel och Iran 2025 blev viral och vilseledde tittare. Videon fick över 700 000 visningar innan Översiktsnämnden ingripit. Nämnden kritiserade Meta för att inte ha använt en tydlig och framträdande varningsetikett på videon, vilket skulle ha kunnat varna användare för dess fabricerade natur. Dessutom misslyckades Meta med att tillräckligt begränsa eller ta bort det vilseledande innehållet trots användarrapporter och erkännande av dess falskhet. Det formella beslutet från Översiktsnämnden belyser betydande brister i Metas nuvarande policies för AI-innehåll och understryker att incidenten speglar en global utmaning: den snabba spridningen av vilseledande AI-genererad media som kan lura miljoner och skapa oro. Utvecklingen av AI-teknologin möjliggör skapandet av mycket realistiska men helt fabricerade bilder och videor, vilket utgör ett allvarligt hot mot informationsintegriteten på sociala medier, där visuellt material ofta påverkar offentliga opinioner snabbt och i stor skala. Som en av de största plattformarna globalt spelar Meta en avgörande roll i informationsspridning och har ett stort ansvar att på ett korrekt sätt flagga, märka eller ta bort AI-genererat innehåll för att motverka desinformation. Händelsen visar att de nuvarande åtgärderna är otillräckliga och understryker det akuta behovet av uppdaterade rutiner och verktyg som är anpassade för AI-specifika utmaningar.

Översiktsnämnden rekommenderar att Meta fastställer en särskild policyram som tydligt definierar AI-genererat innehåll och anger vilka åtgärder som ska vidtas när detta upptäcks. Denna policy bör kräva tydliggöranden eller varningsetiketter, förstärka innehållsmoderering, förbättra detekteringsteknologier och upprätthålla transparent kommunikation om riskerna med AI-manipulation. Utvecklingen av en sådan policy är avgörande inte bara för att behålla användarnas förtroende utan också för att möta bredare samhälleliga utmaningar med desinformation. Felaktigt AI-innehåll kan förvärra geopolitisk spänning, driva propaganda och undergräva demokratiska processer genom att sprida falska narrativ som verkar trovärdiga. Som svar har Meta erkänt dessa utmaningar och meddelat planer på att granska och eventuellt revidera sina policies för innehåll för att bättre hantera AI-genererat media och stärka skydden mot desinformation. Händelsen med videon från Haifa utgör en avgörande fallstudie som visar hur snabbt AI-driven desinformation kan spridas online. Den understryker behovet för sociala medieföretag att vara vaksamma och kontinuerligt uppdatera sina policies och teknologier i takt med att digitala hot utvecklas. Allt eftersom AI tar en större roll i innehållsskapandet får plattformar som Meta ett allt viktigare ansvar att hantera och minska de tillhörande riskerna. Att utveckla och implementera tydliga, effektiva policies för AI-innehåll är ett avgörande steg för att säkerställa informations noggrannhet och tillförlitlighet på sociala medier samt skydda allmänheten mot vilseledning i den digitala eran.