AI-namaak, vooral in de vorm van deepfakes, wordt een belangrijk probleem op het internet. De opkomst van generatieve AI-tools heeft geleid tot de verspreiding van misleidende afbeeldingen, video's en audio, waardoor de scheidslijn tussen wat echt is en wat niet, vervaagt. Met gemakkelijk toegankelijke video- en beeldgeneratoren kan iedereen deepfakes maken, die voor verschillende kwaadwillige doeleinden kunnen worden gebruikt, zoals oplichting, identiteitsdiefstal, propaganda en manipulatie van verkiezingen. Vroeger was het makkelijker om deepfakes te identificeren vanwege duidelijke tekenen van manipulatie, zoals fouten in beelden of onnatuurlijke knipperpatronen in video's. Echter, naarmate AI-technologie verbeterd is, wordt het moeilijker om deepfakes te herkennen. Niettemin zijn er nog steeds enkele indicatoren om op te letten, zoals een elektronische glans op met AI gegenereerde foto's, inconsistenties in schaduwen en belichting, en afwijkingen tussen de huidskleur van het gezicht en de rest van het hoofd of lichaam. Let op details zoals de scherpte van gezichtscontouren en de synchronisatie van lipbewegingen met audio. Wazigheid of inconsistenties in tandomtrekken kunnen ook een aanwijzing zijn voor een deepfake. Het is ook belangrijk om naar het grotere geheel en de plausibiliteit te kijken bij het detecteren van deepfakes.

Als een bekend persoon wordt afgebeeld terwijl hij iets overdreven of buiten zijn karakter doet, kan het een deepfake zijn. Context is belangrijk en aanvullende verificatie van betrouwbare bronnen kan helpen om de authenticiteit van een afbeelding of video te bevestigen. Er zijn AI-tools beschikbaar die kunnen helpen bij het identificeren van deepfakes, zoals de authenticator-tool van Microsoft en FakeCatcher van Intel. Deze tools zijn echter niet altijd toegankelijk voor het grote publiek om misbruik door kwaadwillenden te voorkomen. Het is cruciaal om te onthouden dat alleen vertrouwen op detectietools een vals gevoel van veiligheid kan creëren en kritisch denkvermogen kan verminderen. Het is essentieel om op te merken dat AI-technologie snel vooruitgaat en de kwaliteit van deepfakes verbetert terwijl gebreken verminderen. Daarom kan de effectiviteit van huidige detectiemethoden in de loop van de tijd veranderen. Bovendien kan het opleggen van de verantwoordelijkheid aan gewone individuen om deepfakes op te sporen riskant zijn, omdat het zelfs voor experts steeds moeilijker wordt om onderscheid te maken tussen echt en nep. Associated Press wordt ondersteund door particuliere stichtingen om uitgebreide verslaggeving van verkiezingen en democratie te bieden.