De Toezichtraad, een onafhankelijke instantie verbonden aan Meta, heeft met scherpe kritiek gereageerd op de huidige beleidsmaatregelen van Meta met betrekking tot deepfake-inhoud, en stelt dat deze onvoldoende inspelen op de snelle verspreiding van door AI gegenereerde video's op haar platforms. De Raad benadrukt grote tekortkomingen in Meta’s aanpak om geavanceerde synthetische media aan te pakken, vooral in gevoelige tijden zoals crises en verkiezingen. Momenteel vertrouwt Meta sterk op gebruikers om door AI gemaakte inhoud te identificeren en te labelen, maar de Raad vindt dat dit systeem niet voldoende is, omdat realistische deepfakes zich snel kunnen verspreiden voordat gebruikers ze detecteren of markeren. Dit vormt ernstige risico’s tijdens politieke of sociale onrust, waarbij misleidende inhoud de publieke perceptie kan vervormen en invloed kan uitoefenen op belangrijke gebeurtenissen. Deze kritiek volgt op de beoordeling van de Raad van een incident waarbij een nagemaakt AI-gegenereerde video was gemaakt die vernietiging in Israël afbeeldde, wat kritieke tekortkomingen in Meta’s mogelijkheden voor deepfake-detectie en de noodzaak voor sterkere, proactieve beleidsmaatregelen blootlegde. De wijdverspreide verspreiding van de video liet zien hoe gemakkelijk geavanceerde valse inhoud zich kan ontwijken in de huidige veiligheidsmaatregelen. Als reactie dringt de Toezichtraad er bij Meta op aan haar beleid omtrent door AI gegenereerde synthetische media volledig te herzien. Aangezien generatieve AI-technologieën het creëren van realistische video's, beelden en audio’s makkelijker en toegankelijker hebben gemaakt, benadrukt de Raad dat het onderscheiden van echte inhoud van vervalsingen steeds moeilijker wordt, wat het risico op onbeperkte verspreiding van desinformatie verhoogt. De Raad roept Meta en soortgelijke platforms op om beschermende maatregelen te verbeteren, waaronder het ontwikkelen van geavanceerde detectietechnologieën die synthetische inhoud vroegtijdig kunnen identificeren — idealiter voordat het door gebruikers wordt opgemerkt. Ook wordt het belang van transparantie richting gebruikers over de aard en herkomst van inhoud onderstreept. Naast de verantwoordelijkheid van het platform zelf, benadrukt de Raad de cruciale rol die gebruikers spelen in de strijd tegen desinformatie.

Hierbij wordt aangemoedigd dat zij verificatietools gebruiken zoals chatbots en meerdere factcheck-bronnen raadplegen voordat ze verdachte informatie delen. Deze meervoudige benadering moet gebruikers actiever maken als verdedigers van de integriteit van online informatie. De snelle ontwikkeling van AI-technologieën blijft social media-platforms uitdagen. Generatieve AI produceert nu content die visueel, auditief en contextueel overtuigend is, wat adaptieve beleidsmaatregelen vereist die kunnen inspelen op nieuwe bedreigingen zonder innovatie of vrije expressie te beperken. Gezien Meta’s wereldwijde invloed en bereik, zetten haar beleidslijnen belangrijke precedenten voor de hele sector. De kritiek van de Toezichtraad fungeert als een belangrijke wake-up call voor Meta om haar houding en strategieën omtrent synthetische media te herevalueren. Samengevat vereist het aanpakken van deepfakes en door AI gegenereerde desinformatie een gecoördineerde inspanning van platforms, beleidsmakers, technologische ontwikkelaars en gebruikers. Het versterken van detectiemogelijkheden, het stimuleren van beleidsinnovatie en het vergroten van gebruikersbewustzijn zijn essentiële onderdelen van een effectieve reactie. Nu AI-gedreven desinformatie steeds geavanceerder wordt, groeit de collectieve verantwoordelijkheid om de waarheid en nauwkeurigheid online te beschermen. Meta heeft nog niet publiekelijk gereageerd op de aanbevelingen van de Raad, maar het incident en de evaluatie onderstrepen de dringende noodzaak voor daadkrachtige actie om de weerbaarheid tegen AI-voedende desinformatie te versterken.