Künstliche Intelligenz (KI) verstärkt weltweit die Bedrohung durch Wahlmanipulationen. Mit der Verfügbarkeit von kostenlosen und kostengünstigen generativen KI-Diensten kann jeder mit einem Smartphone überzeugende "Deepfakes" erstellen, deren Ziel es ist, Wähler zu täuschen. Diese Technologie hat sich in den letzten Jahren rapide weiterentwickelt und erfordert immer weniger Ressourcen und technische Fähigkeiten, um gefälschten Inhalt zu produzieren. KI-Deepfakes wurden bereits bei Wahlen in Europa und Asien entdeckt, was Bedenken hinsichtlich ihres Einflusses auf Vertrauen und demokratische Prozesse aufkommen lässt. Sie können dazu verwendet werden, das Bild von Kandidaten zu beschädigen oder zu manipulieren, Wähler zu bestimmten Kandidaten zu lenken oder von ihnen abzulenken und das Vertrauen der Öffentlichkeit in Informationen zu untergraben. Die Rückverfolgung des Ursprungs von KI-Deepfakes ist eine Herausforderung, da Regierungen und Unternehmen derzeit nicht wirksam in der Lage sind, das Problem zu verhindern oder anzugehen.

Behörden auf der ganzen Welt versuchen, Vorschriften einzuführen, um die Risiken von KI-Deepfakes einzudämmen, doch der Fortschritt ist langsam. Die Europäische Union hat ab dem nächsten Jahr eine spezielle Kennzeichnung von Deepfakes vorgeschrieben, während sich einige Technologieunternehmen freiwillig dazu verpflichtet haben, zu verhindern, dass KI-Tools Wahlen stören. Allerdings birgt die Vermeidung unbeabsichtigter Konsequenzen bei der Regulierung von Deepfakes Herausforderungen, da legitime politische Kommentare manchmal mit Desinformation verwechselt werden können. Die zunehmende Nutzung von KI wirft weitere Bedenken auf, da KI-gesteuerte Chatbots häufig falsche oder irreführende Informationen liefern können, die Wähler benachteiligen können. Darüber hinaus können Kandidaten versuchen, Wähler zu täuschen, indem sie behaupten, dass echte Ereignisse mit Hilfe von KI erstellt wurden. Insgesamt gefährdet der Aufstieg von KI-Deepfakes das Vertrauen und die Demokratie bei Wahlen weltweit.