Generatif yapay zeka (AI) teknolojisi, ChatGPT gibi popüler uygulamalarda kullanılan, gerçekçi sahte metin, video ve ses oluşturmanın potansiyeline sahiptir ve bu da siyasi manipülasyon için kullanılabilir. Ayrıca, büyük sosyal medya şirketleri seçim bütünlüğünü destekleme taahhütlerini azaltmışlardır. Yaklaşan seçimde, uzmanların bazıları tarafından yanlış bilgi yaymak için uygun olduğuna inanılan TikTok'un öneri algoritması da etki görecektir. Generatif AI ve sosyal medyanın birleşimi, AI tarafından oluşturulan yanlış bilgi, insan olmadan bireylere yönelebileceğinden, siyasi kutuplaşmayı kötüleme potansiyeline sahip önemli zorluklar ortaya çıkarır.

Facebook ve YouTube gibi platformlar seçim bütünlüğü politikalarını azaltmış, bu da ırkçı ve antisemitik içeriğin artmasına neden olmuştur. TikTok'un algoritması diğer platformlardan farklı olup özellikle genç demografisini dikkate alırsak, siyasi yanlış bilgilendirmeye daha hassas olabilir. Bu zorlukları ele almakiçin platformlar, içeriği yeniden paylaşmayı sınırlama, viral gönderiler için devre kesiciler uygulama, içerik moderasyon ekiplerini artırma ve yanlış içeriği besleme bölümlerinden kaldırırken bir referans olarak arşivlemek gibi önlemler uygulamalıdır. Harekete geçilmemesi, ABD'deki demokratik krizi kötüleştirebilir.