Im Jahr 2024 bereitet sich die Welt auf das, was möglicherweise das größte globale Wahljahr aller Zeiten sein könnte, vor. Dieses bedeutende Ereignis fällt mit dem rapiden Anstieg von Deepfakes zusammen, einem besorgniserregenden Trend, der in der APAC-Region beobachtet wurde. Laut einem Bericht von Sumsub ist die Anzahl der Deepfakes von 2022 bis 2023 um 1530% gestiegen. Der Aufstieg von Deepfakes hat Bedenken unter Cybersicherheitsexperten hervorgerufen, die befürchten, dass künstlich generierter Inhalt unsere Wahrnehmung der Realität verzerren könnte. Diese Sorge wird in einem Jahr mit entscheidenden Wahlen noch besorgniserregender. Dennoch hat ein Experte eine andere Perspektive. Martin Lee, der technische Leiter der Talos-Sicherheitsintelligenz- und Forschungsgruppe von Cisco, hat vorgeschlagen, dass die Bedrohung, die Deepfakes für die Demokratie darstellen, möglicherweise übertrieben ist.

Lee ist der Meinung, dass Deepfakes zwar eine mächtige Technologie sind, aber nicht so wirkungsvoll wie Fake News. Trotzdem erkennt Lee an, dass neue generative KI-Tools es einfacher machen können, gefälschten Inhalt zu generieren, was eine potenzielle Bedrohung darstellt. KI-generierte Materialien weisen oft Indikatoren auf, die ihre Herkunft als nicht-menschliche Kreationen verraten können. Insbesondere visuelle Inhalte sind anfällig für Fehler, wie Bilder mit visuellen Anomalien wie zusätzlichen Gliedmaßen oder Verschmelzungen von Hintergründen mit Gliedmaßen. Die Unterscheidung zwischen synthetisch generierter Sprachaudio und echten Sprachclips kann herausfordernder sein. Jedoch weisen Experten darauf hin, dass KI nur so zuverlässig ist wie ihre Trainingsdaten. Dennoch argumentiert Lee, dass maschinengenerierter Inhalt oft objektiv als solcher erkannt werden kann. Darüber hinaus glaubt er, dass es unwahrscheinlich ist, die Fähigkeit von Angreifern zur Generierung von Inhalten einzuschränken. Experten haben CNBC bereits zuvor vor dem erheblichen Risiko von durch KI generierter Desinformation bei bevorstehenden Wahlen weltweit gewarnt.