Sztuczna inteligencja (AI) wzmacnia zagrożenie dezinformacją wyborczą na całym świecie. Dzięki dostępności darmowych i niskokosztowych usług generujących AI, każdy posiadający smartfon może tworzyć przekonujące "deepfake'i", mające na celu oszukanie wyborców. Ta technologia szybko ewoluowała w ostatnich latach, wymagając coraz mniejszych zasobów i umiejętności technicznych do produkcji fałszywych treści. AI deepfake'i były już widziane podczas wyborów w Europie i Azji, budząc obawy dotyczące ich wpływu na zaufanie i procesy demokratyczne. Mogą być używane do oczerniania lub manipulowania obrazem kandydatów, nakłaniania wyborców do lub od określonych kandydatów lub podważanie zaufania do informacji publicznej. Śledzenie pochodzenia AI deepfake'ów jest trudne, ponieważ obecnie rządy i firmy są niezdolne do skutecznego zapobiegania lub rozwiązania problemu.

Władze na całym świecie próbują ustanowić regulacje mające na celu łagodzenie ryzyka związanego z AI deepfake'ami, ale postępy są powolne. Unia Europejska zobowiązała się do specjalnego oznaczania deepfake'ów od przyszłego roku, podczas gdy niektóre firmy technologiczne dobrowolnie zobowiązały się do zapobiegania zakłóceniom wyborów za pomocą narzędzi AI. Jednak unikanie niezamierzonych konsekwencji regulowania deepfake'ów stwarza wyzwania, ponieważ czasami legitymalne komentarze polityczne mogą być mylone z dezinformacją. Wzrastające wykorzystanie AI rodzi dodatkowe obawy, gdyż AI zasilane chatboty często dostarczają fałszywe lub wprowadzające w błąd informacje, które mogą pozbawiać wyborców możliwości głosowania. Dodatkowo, kandydaci mogą próbować oszukać wyborców, twierdząc, że prawdziwe wydarzenia zostały stworzone przy użyciu AI. Ogólnie rzecz biorąc, wzrost AI deepfake'ów zagraża zaufaniu i demokracji na całym świecie.