Die Gefahren von KI Deepfakes in der bevorstehenden Präsidentschaftswahl 2024 bereiten Experten und Beamten Sorgen. Diese manipulierten Videos, die mithilfe künstlicher Intelligenz erstellt werden, haben das Potenzial, die Wahrheit weiter zu untergraben und die Wählerschaft zu destabilisieren. Beispiele von Deepfakes mit politischen Persönlichkeiten haben bereits Chaos und Verwirrung verursacht. Als Reaktion darauf werden verschiedene Maßnahmen ergriffen, wie Untersuchungen zu Deepfake-Robocalls, Warnungen an Wähler und die Verabschiedung von Gesetzen, um die Verwendung von Deepfake-Technologie in Wahlkampfkommunikation einzuschränken. Als Demonstration der Fähigkeiten der Technologie veröffentlichte eine Nachrichtenorganisation in Arizona Deepfake-Videos eines bekannten Kongresskandidaten, um auf die Notwendigkeit von Wachsamkeit und kritischem Denken beim Umgang mit solchen Inhalten hinzuweisen.

Obwohl die Videos eine hohe Anzahl an Aufrufen erhielten, führten sie auch zu einem Unterlassungsschreiben des echten Kandidaten, der sie als unzulässig empfand. Die Nachrichtenorganisation prüft ihre Reaktion und betrachtet die Deepfakes als Lernwerkzeuge, um Lesern zukünftige Manipulationen aufzuzeigen. Experten betonen die Bedeutung, zwischen echten und manipulierten Inhalten zu unterscheiden, und die Sorge, dass mittlerweile alles verdächtig wird. Forscher entwickeln Software zur Erkennung von Deepfakes, aber die Technologie entwickelt sich weiter und macht es zunehmend schwierig, gefälschte Videos zu identifizieren.