Riskerna med AI-deepfakes inför det kommande presidentvalet 2024 oroar experter och tjänstemän. Dessa manipulerade videor, skapade med hjälp av artificiell intelligens, har potentialen att ytterligare undergräva sanningen och destabilisera väljarkåren. Exempel på deepfakes med politiska figurer har redan skapat kaos och förvirring. Som svar på detta vidtas olika åtgärder, såsom utredningar av deepfake-robocalls, varningar till väljare och antagande av lagar för att begränsa användningen av deepfake-teknologi i kampanjkommunikation. För att demonstrera teknikens möjligheter publicerade en nyhetsorganisation i Arizona deepfake-videos av en framstående kongresskandidat, vilket uppmärksammade behovet av vaksamhet och kritiskt tänkande vid möte med sådant innehåll.

Videorna fick betydande visningar men framkallade också ett upphör-och-avståndsbrev från den verkliga kandidaten, som fann dem oacceptabla. Nyhetsorganisationen överväger sitt svar och betraktar deepfakes som utbildningsverktyg för att hjälpa läsarna att upptäcka framtida manipulationer. Experter betonar vikten av att kunna särskilja äkta och manipulerat innehåll samt oron över att allt blir misstänkt. Forskare utvecklar mjukvara för att upptäcka deepfakes, men tekniken utvecklas vilket gör det allt svårare att identifiera fejkade videor.