Künstliche Intelligenz-Apps können manchmal Fehler machen, selbst bei einfachen Fragen wie der Identität des Präsidenten der Vereinigten Staaten. Während einige KI-Modelle richtige Antworten und Informationen über den Präsidenten liefern, lehnen andere die Beantwortung politischer Fragen ab oder geben falsche Antworten aus Sorge, dass KI zur Beeinflussung von Wahlen und Verbreitung von Fehlinformationen genutzt wird. Auch bei Bildgeneratoren gibt es Einschränkungen, um die Erstellung gefälschter politischer Bilder zu verhindern.

Allerdings zeigte ein kürzlich veröffentlichter Bericht, wie einige Bildgeneratoren Deepfakes von politischen Persönlichkeiten erzeugen können, was zu strengeren Richtlinien auf diesen Plattformen führte. Ein bestimmter Bildgenerator namens Midjourney verbot ursprünglich Bilder der Präsidentschaftskandidaten, produzierte aber kürzlich auf Nachfrage Bilder von Donald Trump als amtierendem Präsidenten. Diese Inkonsistenzen verdeutlichen die Herausforderungen der Inhaltsmoderation und das Fehlen staatlicher Regulierungen bei KI-Anwendungen.