Las aplicaciones de inteligencia artificial a veces pueden cometer errores, incluso en preguntas simples como quién es el presidente de los Estados Unidos. Mientras que algunos modelos de IA proporcionan respuestas correctas e información precisa sobre el presidente, otros se niegan a responder preguntas políticas o dan respuestas incorrectas debido a preocupaciones sobre el uso de la IA para influir en las elecciones y propagar desinformación. También se aplican restricciones en los generadores de imágenes para prevenir la creación de imágenes políticas falsas.

Sin embargo, un informe reciente mostró cómo algunos generadores de imágenes podrían generar deepfakes de figuras políticas, lo que ha llevado a políticas más estrictas por parte de estas plataformas. Un generador de imágenes específico, Midjourney, inicialmente prohibió las imágenes de los candidatos presidenciales, pero recientemente produjo imágenes de Donald Trump cuando se solicitaron imágenes del presidente actual. Estas inconsistencias resaltan los desafíos de la moderación de contenido y la falta de regulaciones gubernamentales en las aplicaciones de inteligencia artificial.