Die KI-Technologie trägt zur globalen Bedrohung durch Wahlmanipulation bei, indem sie es Einzelpersonen erleichtert, überzeugende gefälschte Inhalte zu erstellen, die darauf abzielen, Wähler zu täuschen. Früher waren umfangreiche Ressourcen erforderlich, um gefälschte Bilder, Videos oder Audios zu erstellen. Jetzt ermöglichen jedoch kostenlose oder kostengünstige generative KI-Dienste die Erstellung hochwertiger "Deepfakes" nur durch Texteingabe. Dies hat zu einem Anstieg von KI-Deepfakes im Zusammenhang mit Wahlen in Europa und Asien geführt. Die Frage ist nicht mehr, ob KI-Deepfakes Wahlen beeinflussen können, sondern wie einflussreich sie sein werden. Dies stellt eine Herausforderung für die Demokratie dar, da KI-Deepfakes das Bild eines Kandidaten manipulieren und Wähler beeinflussen können, was das öffentliche Vertrauen in das Gesehene und Gehörte untergräbt.

Es ist schwierig, die Urheber von KI-Deepfakes zu finden, und Regierungen und Unternehmen sind derzeit nicht ausreichend ausgestattet, um dieses Problem zu bekämpfen. Obwohl einige Technologieunternehmen Vereinbarungen unterzeichnet haben, um KI-Störungen bei Wahlen zu verhindern, bleibt die Begrenzung von Deepfakes in Apps wie Telegram eine Herausforderung. Bemühungen, KI-Deepfakes einzuschränken, können unbeabsichtigte Folgen haben, wie die Einschränkung politischer Kommentare. Darüber hinaus könnten Kandidaten selbst versuchen, Wähler zu täuschen, indem sie behaupten, dass negative Situationen von KI fabriziert wurden. Insgesamt schafft die Verbreitung von KI-Deepfakes eine herausfordernde Umgebung für die Demokratie.