AI-förfalskningar, särskilt i form av deepfakes, blir ett betydande problem online. Uppkomsten av generativa AI-verktyg har lett till spridning av bedrägliga bilder, videor och ljud, vilket suddar ut gränsen mellan vad som är verkligt och vad som inte är det. Med lättåtkomliga video- och bildgeneratorer kan vem som helst skapa deepfakes, vilka kan användas för olika skadliga ändamål såsom bedrägerier, identitetsstölder, propaganda och manipulation av val. Tidigare var det enklare att identifiera deepfakes på grund av tydliga tecken på manipulation, såsom fel i bilder eller onaturliga blinkningsmönster i videor. Men i takt med att AI-tekniken har förbättrats har det blivit svårare att upptäcka deepfakes. Ändå finns det fortfarande vissa indikatorer att vara uppmärksam på, såsom en elektronisk glans på AI-genererade foton, inkonsekvenser i skuggor och belysning, samt inkonsekvenser mellan hudtonen i ansiktet och resten av huvudet eller kroppen. Observera detaljer som skärpan i ansiktets kanter och synkroniseringen av läpprörelser med ljud. Oskärpa eller inkonsekvenser i utlinjerna för tänderna kan också vara en ledtråd till en deepfake. Att ta hänsyn till den större bilden och trovärdigheten är också viktigt för att upptäcka deepfakes.

Om en offentlig person framställs som gör något överdrivet eller som inte stämmer överens med deras karaktär kan det vara en deepfake. Kontexten spelar roll, och ytterligare verifiering från pålitliga källor kan hjälpa till att bekräfta äktheten hos en bild eller video. Det finns AI-verktyg tillgängliga som kan hjälpa till att identifiera deepfakes, såsom Microsofts autentiseringverktyg och Intels FakeCatcher. Men dessa verktyg är inte alltid tillgängliga för allmänheten för att förhindra missbruk av illasinnade personer. Det är viktigt att komma ihåg att enbart förlita sig på upptäcktsverktyg kan skapa en falsk känsla av säkerhet och minska kritiskt tänkande. Det är viktigt att notera att AI-tekniken snabbt utvecklas och att deepfake-kvaliteten förbättras medan bristerna minskar. Därför kan effektiviteten hos nuvarande upptäckningsmetoder förändras över tiden. Dessutom kan det vara riskabelt att belasta vanliga individer med ansvaret att upptäcka deepfakes, eftersom det blir allt svårare, även för experter, att skilja på verkligt och fejk-innehåll. Associated Press stöttas av privata stiftelser för att ge utökad rapportering om val och demokrati.