Après que Joe Biden a annoncé la fin de sa campagne de réélection, des désinformations ont émergé en ligne concernant l'éligibilité d'un nouveau candidat pour le remplacer. Des affirmations fausses ont circulé sur Twitter, maintenant X, suggérant que les délais de vote étaient passés dans neuf États, ce qui impliquait que Kamala Harris ne pouvait pas être ajoutée aux bulletins. Le bureau du secrétaire d'État du Minnesota a reçu de nombreuses demandes de vérification des faits sur cette désinformation, qui s'est avérée incorrecte. La désinformation a été attribuée au chatbot de Twitter, Grok, qui a fourni des réponses incorrectes lorsque les utilisateurs ont demandé la possibilité d'ajouter un nouveau candidat aux bulletins. Cette situation a mis en évidence les défis potentiels auxquels les responsables électoraux et les entreprises d'IA pourraient être confrontés lors de l'élection présidentielle de 2024, en particulier concernant la capacité de l'IA à induire les électeurs en erreur. En réponse, plusieurs secrétaires d'État ont contacté Grok et X pour aborder les revendications erronées, mais la réponse initiale de la société a été considérée comme inadéquate. Les secrétaires ont publiquement condamné la désinformation en envoyant une lettre à X, exhortant la société à orienter les utilisateurs vers des sites d'information de vote de confiance.

Finalement, Grok a mis à jour ses réponses pour diriger les utilisateurs vers vote. gov pour les questions liées aux élections. Cet incident a souligné l'importance d'une intervention rapide pour combattre la désinformation et la nécessité pour les outils d'IA de fournir des informations précises. Malgré leur déception face à la réponse initiale lente de X, les secrétaires ont reconnu l'engagement ultérieur de la société à corriger le problème. Cependant, des préoccupations subsistent quant au potentiel de Grok à propager des désinformations en raison de sa conception, qui active une posture « anti-woke » et intègre des tweets populaires dans ses réponses. Bien que Grok nécessite un abonnement payant, il pourrait toucher un large public en raison de son intégration avec une grande plateforme de médias sociaux. Le chatbot a également créé des images controversées qui pourraient encore polariser les opinions, démontrant sa capacité à générer du contenu incendiaire.