Die generative künstliche Intelligenz (KI)-Technologie, die in beliebten Apps wie ChatGPT verwendet wird, hat das Potenzial, die Erstellung von realistischem gefälschtem Text, Video und Audio zu ermöglichen, das für politische Manipulation verwendet werden kann. Darüber hinaus haben große soziale Medienunternehmen ihre Zusicherungen zur Förderung der Wahlintegrität reduziert. Die bevorstehenden Wahlen werden auch von TikTok beeinflusst, mit seinem Empfehlungsalgorithmus, von dem einige Experten glauben, dass er sich gut für die Verbreitung von Fehlinformationen eignet. Die Kombination aus generativer KI und sozialen Medien stellt erhebliche Herausforderungen dar, da KI-generierte Desinformation Individuen ohne menschliches Zutun ins Visier nehmen kann und damit die politische Polarisierung möglicherweise verschärft.

Plattformen wie Facebook und YouTube haben ihre Richtlinien zur Wahlintegrität reduziert, was zu einer Zunahme rassistischer und antisemitischer Inhalte führt. Der Algorithmus von TikTok unterscheidet sich von anderen Plattformen und macht ihn möglicherweise anfälliger für politische Fehlinformationen, insbesondere vor dem Hintergrund seiner jungen Zielgruppe. Um diesen Herausforderungen zu begegnen, sollten Plattformen Maßnahmen wie die Begrenzung des Weitergehens von Inhalten, die Implementierung von Schutzvorrichtungen für virale Beiträge, die Erhöhung der Teams für Inhaltsmoderation und das Entfernen falscher Inhalte aus Feeds unter Beibehaltung einer archivierten Kopie als Referenz ergreifen. Das Unterlassen von Maßnahmen könnte die demokratische Krise in den USA verschärfen.