Meta, het moederbedrijf van Facebook en Instagram, ligt opnieuw onder vuur vanwege de manier waarop het omgaat met AI-gegenereerde content op zijn platforms. De onafhankelijke Toezichtraad van het bedrijf heeft sterk aanbevolen dat Meta een uitgebreide, speciale beleidslijn ontwikkelt die zich specifiek richt op AI-gerelateerde content. Dit volgt op een groot incident waarin een nep AI-gegenereerde video viraal ging, waarin beschadigde gebouwen in Haifa werden getoond tijdens een verwachte Israël-Iran confrontatie in 2025, waardoor kijkers werden misleid. De video kreeg meer dan 700. 000 views voordat de Toezichtraad ingreep. De raad bekritiseerde Meta omdat het geen duidelijke en opvallende waarschuwingssticker op de video had geplaatst, wat gebruikers had kunnen informeren over de gefabriceerde aard ervan. Daarnaast slaagde Meta er niet in om de misleidende inhoud adequaat te beperken of te verwijderen, ondanks gebruikersmeldingen en het erkennen van de onjuistheid. De formele beslissing van de Toezichtraad benadrukte grote lacunes in het huidige beleid van Meta omtrent AI-inhoud en onderstreepte dat het incident een wereldwijde uitdaging weerspiegelt: de snelle verspreiding van misleidende door AI geproduceerde media die miljoenen kunnen misleiden en onrust kunnen veroorzaken. De vooruitgang in AI-technologie maakt het mogelijk om zeer realistische, maar volledig gefabriceerde beelden en video's te creëren, wat een ernstige bedreiging vormt voor de integriteit van informatie op sociale media, waar visuals vaak snel en breed de publieke opinie beïnvloeden. Als een van de grootste platforms ter wereld speelt Meta een cruciale rol in informatieverspreiding en draagt het belangrijke verantwoordelijkheid om AI-gegenereerde content op de juiste manier te labelen, te markeren of te verwijderen om desinformatie te beteugelen. Het incident toont aan dat de huidige maatregelen niet afdoende zijn, en onderstreept de dringende noodzaak voor geüpdatete protocollen en tools die specifiek gericht zijn op de uitdagingen van AI.

De Toezichtraad beveelt aan dat Meta een beleidskader opstelt dat duidelijk AI-gegenereerde content definieert en de te nemen maatregelen bij identificatie ervan omschrijft. Dit beleid zou verplichte bekendmaking of waarschuwingslabels moeten bevatten, contentmoderatie moeten versterken, detectietechnologieën verbeteren en transparant communiceren over de risico’s van AI-manipulatie. Het ontwikkelen van zo'n beleid is essentieel om niet alleen het vertrouwen van gebruikers te behouden, maar ook om bredere maatschappelijke misinformatie tegen te gaan. Vals AI-materiaal kan geopolitieke spanningen verergeren, desinformatiecampagnes aanwakkeren en democratische processen ondermijnen door geloofwaardige leugens te verspreiden. Meta erkent deze uitdagingen en heeft aangegeven plannen te hebben om haar inhoudsbeleid te herzien en mogelijk te verbeteren, zodat AI-gegenereerde media en de bestrijding van desinformatie beter aangepakt worden. Het Haifa-video-incident dient als een belangrijk praktijkvoorbeeld van hoe snel AI-gedreven misinformatie online kan verspreiden. Het onderstreept de noodzaak voor sociale-mediabedrijven om alert te blijven en voortdurend hun beleid en technologieën aan te passen aan de veranderende digitale dreigingen. Naarmate de rol van AI in het creëren van content toeneemt, hebben platforms als Meta een steeds belangrijkere verantwoordelijkheid om de gerelateerde risico’s te beheren en te beperken. Het ontwikkelen en implementeren van duidelijke, effectieve AI-beleidsregels is een cruciale stap om de juistheid en betrouwbaarheid van informatie op sociale media te waarborgen en de publieke bescherming tegen misleiding in het digitale tijdperk te versterken.