Les chatbots d'intelligence artificielle des principales entreprises technologiques comme OpenAI et Google ont récemment bénéficié d'améliorations dans leur capacité de raisonnement afin d’accroître la fiabilité de leurs réponses. Cependant, des tests récents révèlent que certains modèles plus récents performent même moins bien que leurs versions antérieures, en présentant un phénomène appelé « hallucinations» — des erreurs où les chatbots génèrent de fausses informations ou donnent des réponses qui sont factuellement correctes mais non pertinentes ou non conformes aux instructions. Ce problème persiste depuis la création des grands modèles de langage (LLMs) tels que ChatGPT d’OpenAI ou Gemini de Google, et il semble peu probable qu’il puisse être totalement résolu. Un rapport technique d’OpenAI a montré que ses modèles o3 et o4-mini, sortis en avril, avaient des taux d’hallucinations bien plus élevés que le modèle o1, plus ancien, datant de fin 2024 : le o3 affichait un taux d’hallucinations de 33 %, le o4-mini de 48 %, contre seulement 16 % pour le o1, lors de la synthèse de faits disponibles publiquement. De même, le tableau de bord de Vectara suivant les taux d’hallucinations a indiqué que certains modèles de raisonnement — dont DeepSeek-R1 — connaissaient des augmentations importantes de ces hallucinations par rapport à leurs prédécesseurs, malgré leur approche de raisonnement en plusieurs étapes avant de répondre. OpenAI affirme que le processus de raisonnement n’est pas intrinsèquement responsable de l’augmentation des hallucinations et mène activement des recherches pour réduire leur occurrence dans tous ses modèles. La persistance de ces hallucinations menace plusieurs applications : des modèles qui produisent fréquemment des Falsehoods compliquent l’aide à la recherche ; des bots parajuristes citant des cas inexistants risquent de faire des erreurs juridiques ; des bots de service client utilisant des informations obsolètes provoquent des dysfonctionnements. Au départ, les entreprises d’IA pensaient que les hallucinations diminuaient avec le temps, puisque les premières mises à jour des modèles montraient des améliorations. Cependant, les niveaux plus élevés récents remettent en question cette perspective, indépendamment du rôle du raisonnement. Le tableau de bord de Vectara indique que les taux d’hallucinations sont environ équivalents entre modèles de raisonnement et modèles sans raisonnement chez OpenAI et Google, même si le chiffre exact importe moins que le classement relatif.

Google a refusé de commenter. Cependant, ces classements présentent des limites. Ils combinent différents types d’hallucinations ; par exemple, le taux de 14, 3 % pour DeepSeek-R1 correspond surtout à des cas « bénins » — des réponses logiquement cohérentes et appuyées par les connaissances, mais absentes du texte source. De plus, les tests basés uniquement sur la synthèse de texte peuvent ne pas refléter la fréquence d’hallucinations dans d’autres tâches, car les LLMs ne sont pas spécifiquement conçus pour la synthèse. Emily Bender, de l’Université de Washington, souligne que ces modèles prédisent plutôt les mots suivants simplement en estimant ce qui est probable, sans traiter véritablement l’information pour comprendre le texte, ce qui rend le terme « hallucination » à la fois trompeur et anthropomorphique. Bender critique l’usage du mot « hallucination » parce qu’il implique que ces erreurs seraient des aberrations dans des systèmes supposés fiables, et prête une perception humaine à l’IA, qui ne « perçoit » en aucun sens. Arvind Narayanan, de Princeton, ajoute que ces modèles commettent aussi des erreurs en se basant sur des données peu fiables ou obsolètes, et qu’ajouter simplement plus de données d’entraînement ou augmenter la puissance de calcul n’a pas résolu ces problèmes. En conséquence, une IA erronée pourrait bien rester une réalité durable. Narayanan propose de n’utiliser ces modèles qu’en cas de vérification rapide, quand cela coûte moins cher que de faire des recherches originales, tandis que Bender recommande d’éviter toute dépendance aux chatbots pour des informations factuelles.