I 2024 er verden ved at forberede sig på hvad der kunne blive det største globale valgår nogensinde. Denne betydelige begivenhed falder sammen med den hurtige stigning i deepfakes, en bekymrende tendens observeret i APAC-regionen. Ifølge en rapport fra Sumsub steg antallet af deepfakes med 1530% fra 2022 til 2023. Stigningen af deepfakes har rejst bekymring blandt cybersikkerhedseksperter, der frygter, at kunstigt genereret indhold kan forvrænge vores opfattelse af virkeligheden. Denne bekymring bliver endnu mere foruroligende i et år fyldt med kritiske valg. Ikke desto mindre har en ekspert en anderledes perspektiv. Martin Lee, den tekniske leder for Ciscos Talos security intelligence og forskningsgruppe, har foreslået, at truslen, som deepfakes udgør for demokratiet, kan være overdrevet.

Lee mener, at selvom deepfakes er en kraftfuld teknologi, er de ikke lige så indflydelsesrige som falske nyheder. Ikke desto mindre erkender Lee, at nye generative AI-værktøjer kan gøre det lettere at generere falskt indhold og dermed udgøre en potentiel trussel. AI-genererede materialer viser ofte indikatorer, der afslører deres oprindelse som ikkemenneskelige skabninger. Visuelt indhold er især sårbart over for fejl, såsom billeder med visuelle anomalier som ekstra lemmer eller baggrunde, der smelter sammen med lemmer. At skelne mellem syntetisk-genereret stemmeaudios og ægte stemmeoptagelser kan være mere udfordrende. Dog påpeger eksperter, at AI kun er pålidelig, så længe dens træningsdata er troværdige. Ikke desto mindre hævder Lee, at kunstigt genereret indhold ofte kan opdages objektivt som sådan. Derudover mener han, at det er usandsynligt at begrænse angribere's evne til at generere indhold. Eksperter har tidligere advaret CNBC om den betydelige risiko, som AI-genereret misinformation udgør ved kommende valg over hele verden.