Yapay zeka teknolojisi, seçim yanıltması tehdidine küresel olarak katkıda bulunuyor çünkü bireylere oy verenleri aldatmayı hedefleyen ikna edici sahte içerikler oluşturmayı daha kolay hale getiriyor. Önceden, sahte resimler, videolar veya sesler oluşturmak için kapsamlı kaynaklar gerektirirdi, ancak şimdi ücretsiz veya düşük maliyetli generatif yapay zeka hizmetleri, sadece metin girişiyle yüksek kaliteli "deepfake"lerin oluşturulmasına izin veriyor. Bu durum, Avrupa ve Asya'daki seçimlerle ilişkili AI deepfake'lerin artışına yol açmıştır. Artık mesele, AI deepfake'lerin seçimlere etki edebileceği değil, ne kadar etkili olacaklarıdır. Bu durum, AI deepfake'lerin bir adayın imajını manipüle edebilmesi ve seçmenleri etkileyebilmesi nedeniyle demokrasiye bir zorluk oluşturur, insanların gördüğü ve duyduğuna olan kamu güvenini erozyona uğratır.

AI deepfake'lerin arkasındaki sorumluları bulmak zordur ve hükümetler ve şirketler bu sorunu çözmek için şu anda yeterli donanıma sahip değillerdir. Bazı teknoloji şirketleri AI'nın seçimleri engellemek için anlaşmalar imzalamış olsa da, Telegram gibi uygulamalardaki deepfake'leri sınırlamak hala zorluk teşkil etmektedir. AI deepfake'leri sınırlamak için yapılan çabalar, politik yorumları ihlal etmek gibi istenmeyen sonuçlara yol açabilir. Ek olarak, adaylar kendilerini seçmenleri aldatmak için, olumsuz durumların AI tarafından uydurulduğunu iddia edebilirler. Genel olarak, AI deepfake'lerin yayılması demokrasi için zor bir ortam yaratmaktadır.