Generativ artificiell intelligens (AI)-teknik, använd i populära appar som ChatGPT, har potentialen att möjliggöra skapandet av realistisk falsk text, video och ljud som kan användas för politisk manipulation. Dessutom har stora sociala medieföretag backat på sina åtaganden att främja valintegritet. Det kommande valet kommer även att påverkas av TikTok, med sin rekommendationsalgoritm, som vissa experter tror är väl lämpad för att sprida desinformation. Kombinationen av generativ AI och sociala medier innebär betydande utmaningar, eftersom AI-genererad desinformation kan rikta in sig på individer utan mänsklig inblandning och potentiellt förvärra politisk polarisering.

Plattformar som Facebook och YouTube har minskat på sina åtgärder för valintegritet, vilket har lett till en ökning av rasistiskt och antisemitiskt innehåll. TikToks algoritm skiljer sig från andra plattformar, vilket potentiellt gör den mer mottaglig för politisk desinformation, särskilt med tanke på dess unga demografi. För att tackla dessa utmaningar bör plattformar införa åtgärder som begränsar delning av innehåll, inför cirkelspräckare för virala inlägg, ökar innehållsmoderationsteamen och tar bort falskt innehåll från flöden samtidigt som en arkiverad kopia behålls som referens. Att inte vidta åtgärder kan förvärra den demokratiska krisen i USA.